La inseguridad informática de los bots

Las herramientas como ChatGPT son basadas en el machine learning, esto quiere decir que utiliza la información en cada uso para poder expandir su base de conocimientos y responder utilizando respuestas pasadas en su próximo resultado. He ahí el detalle: el uso de respuestas pasadas implica también aquellas que nosotros le proveemos. Mientras más información le damos, más desarrolla su cerebro de inteligencia artificial, pues la política de uso le permite utilizarla.  ¿Acaso esto podría ser un problema para la seguridad?

Recientemente, The Economist en Corea anunció que en la utilización de ChatGPT, los empleados de Samsung filtraron información confidencial al chatbot después que la división de producción de chips diera luz verde a los ingenieros de utilizar la herramienta. En este proceso, los empleados compartieron parte de los códigos y de los registros de sus reuniones para agilizar sus procesos. Después de este evento, Samsung prohibió a sus empleados el uso de la herramienta y estarían considerando desarrollar su propio bot para evitar que se vuelva a filtrar información.

Aunque la herramienta recomienda a sus usuarios no compartir información privada pues podría ser utilizada para responder a las preguntas de otras personas, este no es siempre el caso. ChatGPT es utilizada largamente por los trabajadores en varias empresas, e inclusive Microsoft está adaptándola para mejorar la productividad de sus productos como Word o Excel. Por otro lado, una gran cantidad de empresas han comenzado a bloquear el uso de ChatGPT, entre ellos, grandes bancos como JPMorgan o Goldman Sachs, mientras que otras, como Amazon, advierten constantemente a sus trabajadores los peligros de divulgar información privada. Italia ha prohibido a lo largo el uso de ChatGPT, mientras que otros países europeos podrían estar considerando aplicar restricciones en su uso.

Una herramienta innovadora como ChatGPT requiere de nuevas reglas. No podemos evitar los avances en la inteligencia artificial como ChatGPT, pero podemos aprender y enseñar a nuestros trabajadores la mejor manera de utilizarla sin poner en riesgo la seguridad informática de la empresa.