El generador de stickers con IA de Meta está creando dibujos de niños con armas o personajes desnudos

El último de los experimentos de Meta no está saliendo de acuerdo con lo planeado. Y es que los stickers con inteligencia artificial que han sido añadidos a Facebook, WhatsApp y Messenger están causando más de un problema.

Los usuarios no están dándole el mejor uso al generador y han creado a diversos personajes en situaciones polémicas: con armas y hasta desnudos.

IA con problemas

El algoritmo que controla este nuevo generador de stickers se llama Emu por “universo de medios expresivos”.

Los usuarios solo deben ingresar una frase o una palabra para poder generar los stickers y utilizarlos en las plataformas más conocidas de la empresa.

Sin embargo, al parecer Meta no se preocupó demasiado por poner barreras de seguridad, lo que ha hecho que muchas personas aprovecharán para crear algunas pegatinas subidas de tono.

Tama Leaver, profesor de la Universidad de Curtin, probó con escribir ‘niño con armas’ en Emu. La inteligencia artificial lo prohibió, pero al escribir ‘niño con granadas’ no tuvo ningún problema en crear las imágenes.

Por otro lado, también intentó crear imágenes de mujeres ‘sexys’ y ‘desnudas’, lo cual también fue sancionado por el bot, pero luego pudo crear con éxito sus stickers ‘con gran pechos’ o ‘grandes caderas’ en estilo cartoon.

“Por el momento, las pegatinas de IA están disponibles a nivel mundial, pero las herramientas más amplias de Meta AI solo están disponibles en los EE. UU., por lo que para darle a Meta el beneficio de la duda, tal vez tengan planeado un trabajo importante para comprender países, culturas y contextos específicos. antes de lanzar estas herramientas más ampliamente”, escribió Leaven en una publicación de blog. “Sin embargo, volviendo a la cuestión de las salvaguardias, incluso las mínimas no parecen muy efectivas”.

Todo a la IA

Meta parece querer que sea la inteligencia artificial su próximo gran boom.

Además de los stickers, también está lanzando para los usuarios un asistente virtual de inteligencia artificial llamado Meta AI que funciona bajo el modelo de lenguaje grande LLaMA 2, que también potencia a Emu.

Como parte de su defensa, en un comunicado de prensa Meta señala que cada mes se envían "miles de millones de pegatinas" a sus plataformas, lo que brinda a los usuarios miles de millones de oportunidades para romper la IA utilizando palabras y frases ilícitas o desagradables.