Q, el nuevo chatbot de Amazon, filtró información confidencial de la empresa

Empiezan los problemas con Q, el chatbot impulsado por inteligencia artificial de Amazon. Y es que a solo días de su debut en el mercado, diferentes reportes señalan que ya está filtrando información interna de su propia matriz.

De acuerdo con Platformer, la IA está revelando dónde se encuentran los centros de datos de AWS (el servicio en la nube de la empresa), además de algunas características inéditas de los productos de Amazon.

Lo que está pasando

Q es un chatbot destinado a apoyar a los usuarios de la división de la nube de la empresa.

El medio asegura haber obtenido información de estos problemas gracias a comunicaciones internas de los propios trabajadores de Amazon, muchos de ellos comunicados desde Slack.

Por ejemplo, uno de ellos señalaba que Q podría brindar un asesoramiento legal tan malo que “causaba problemas cardíacos” en el área.

El robot también está "experimentando alucinaciones graves", un fenómeno en el que la IA afirma con confianza imprecisiones como si fueran hechos, dijeron los empleados.

En una respuesta a Business Insider, Amazon negó toda esta información.

"Apreciamos todos los comentarios que ya hemos recibido y continuaremos ajustando Q a medida que pasa de ser un producto en versión preliminar a estar disponible de forma general", dijo la compañía en el comunicado.

¿Para qué sirve Q?

El chatbot, desarrollado por la división de computación en la nube de Amazon, se centra en los lugares de trabajo y no está destinado a los consumidores.

Amazon Q tiene como objetivo ayudar a los empleados con las tareas diarias, como resumir documentos de estrategia, completar tickets de soporte interno y responder preguntas sobre la política de la empresa.

Competirá con otros chatbots corporativos, incluidos Copilot, Duet AI de Google y ChatGPT Enterprise.