Google lanza una herramienta para añadir marcas de agua invisibles para imágenes hechas con IA

Google está buscando que no haya confusiones entre imágenes reales y las creadas por inteligencia artificial y, mediante su división Google DeepMind, está lanzando herramienta para incorporar marcas de agua a este arte generativo.

La función llamada SynthID añade una marca de agua digital que es invisible al ojo humano, pero que sí será reconocible para las máquinas, evitando así que se cree desinformación a partir de estas creaciones.

Marcas de agua de IA

SynthID se está lanzado de forma inicial para un número limitado de clientes de Google. Será visto en Imagen, el generador de arte disponible en su conjunto de herramientas de inteligencia artificial basadas en la nube.

"Si bien la IA generativa puede desbloquear un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no", escribe DeepMind en una publicación de blog. "Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea".

Esta marca de agua será aplicada directamente en los píxeles de la imagen y solo será detectable mediante un algoritmo. La compañía asegura que la marca de agua permanecerá incluso después de añadir filtros a las imágenes, cambiarles el color o comprimir su peso.

Por el momento, SynthID no puede identificar todas las imágenes con marcas de agua al 100 %, pero la herramienta distingue entre "casos en lo que una imagen puede contener la marca y una imagen que es muy probable que lo contenga".

"SynthID no es infalible contra manipulaciones extremas de imágenes, pero proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable", refiere la división. "Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como audio, vídeo y texto".

Un paso necesario

Añadir marcas de agua para identificar imágenes hechas con inteligencia artificial se está convirtiendo en un mecanismo necesario.

Dentro de la ley para regular la IA, la Administración del Ciberespacio de China exigió que los proveedores de esta tecnología en el país marquen el contenido generado sin afectar su uso.

Estados Unidos, que tendrá un foro sobre inteligencia artificial este septiembre, también está buscando la forma de añadir transparencia en este mecanismo, siendo el uso de marcas de agua como un postulado muy apoyado.

En mayo, en su conferencia anual Build, Microsoft se comprometió a poner marcas de agua en imágenes y vídeos generados por IA "utilizando métodos criptográficos". Por otra parte, Shutterstock y la startup de IA generativa Midjourney adoptaron pautas para incorporar un marcador que indique que el contenido fue creado por una herramienta de IA generativa. DALL-E 2 de OpenAI, una herramienta de conversión de texto a imagen, inserta una pequeña marca de agua en la parte inferior derecha de las imágenes que genera.