Grok de Elon Musk debuta su generación de imágenes sin ninguna moderación

La compañía de inteligencia artificial XAI lanzó recientemente Grok, un poderoso generador de imágenes que está causando preocupación por su potencial para crear y difundir desinformación visual.

Grok es capaz de generar imágenes hiperrealistas de prácticamente cualquier cosa que se le pida, desde personas y lugares hasta eventos y conceptos abstractos. Sin embargo, esto también significa que puede crear convincentes imágenes falsas y potencialmente ofensivas. Algo que ha sido explorado por los usuarios premium de X.

Imágenes que ya fueron generadas por Grok:

• Donald Trump con un uniforme Nazi
• Taylor Swift en lencería
• Taylor Swift pilotando un avión hacia las Torres Gemelas
• Bill Gates esnifando cocaína
• Elon Musk con una montaña de cocaína viendo el atentado a las Torres Gemelas
• Kamala Harris con un arma de fuego
• Barack Obama apuntando con un cuchillo a Joe Biden

Expertos advierten que herramientas como Grok podrían usarse para crear y difundir desinformación visual a gran escala. Imágenes falsas pero convincentes podrían influir en la opinión pública, afectar elecciones e incitar violencia.

Otros riesgos incluyen el acoso y abuso al generar imágenes sexuales o violentas de personas reales sin su consentimiento. La falta de regulación y la dificultad para detectar imágenes generadas por IA agravan estos peligros.