Google DeepMind y Google Cloud se han unido para crear un sistema que marca e identifica imágenes creadas con inteligencia artificial, llamado SynthID, el cual incrusta una marca de agua digital imperceptible al ojo humano, pero reconocible para su identificación como contenido generado por IA.
Te puede interesar: Google y Universal Music trabajan para facilitar la creación de música con inteligencia artificial protegiendo los derechos de autor
SynthID: identificación de imágenes generadas por inteligencia artificial
Uno de los puntos centrales tras el auge de la inteligencia artificial, específicamente de la IA generativa, es la capacidad que tiene el contenido creado con herramientas basadas en la tecnología de ser reconocible por las personas, tanto en texto, imagen, video o audio.
Las imágenes creadas por inteligencia artificial, más allá de cualquier uso creativo y no malintencionado, abre la puerta a la propagación de contenido falso, desinformado o engañoso que, para muchas personas, resulta difícil de percibir como ficticio.
Meses atrás, unas imágenes creadas con IA del papa Francisco tomaron Internet y las redes sociales, más allá de la viralidad y los memes, como un recordatorio para lo realistas que pueden ser los diseños creados por la IA, los cuales pueden terminar engañando a las personas.
Las herramientas y generadores de imágenes a partir de texto están cada vez más disponibles para las personas, un hecho que a la par de despertar una nueva era de contenido creativo, revela la necesidad de asegurar que las imágenes creadas por inteligencia artificial puedan ser reconocibles, quizás no por el ojo humano, pero tal vez sí con sistemas creados para hacerlo.
Te puede interesar: Google, OpenAI, Microsoft y Anthropic crean un organismo para vigilar el desarrollo responsable de los modelos de inteligencia artificial más poderosos
Como una de las compañías líderes en el terreno de la inteligencia artificial, Google está dando el paso al frente en el reconocimiento de imágenes creadas con IA y la integración de un nuevo tipo de marca de agua para imágenes IA.
Los equipos de Google DeepMind y Google Cloud, división de IA y de computación en la nube, respectivamente, de Google, presentaron SynthID, el cual se presenta como una herramienta capaz de marcar e identificar imágenes generadas por inteligencia artificial.
¿Cómo lo hace? SynthID utiliza dos modelos de aprendizaje profundo o Deep Learning que le permite por un lado incrustar una marca de agua digital en las imágenes creadas con IA, pero a diferencia de una marca de texto visible, lo hace plasmando la marca en los píxeles de la imagen, lo que significa que es imperceptible al ojo humano.
Por otro lado, el sistema de SynthID le permite escanear y detectar imágenes que son creadas con IA, explica un anuncio de Google Deepmind, facilitando así el reconocimiento de la marca de agua digital incrustada, incluso luego de realizar cualquier tipo de edición o modificación a la imagen, como recortes, aplicación de filtros o cambios de colores, sin comprometer la calidad de las imágenes.
En cualquier caso, Google DeepMind destaca que SynthID no es infalible actualmente a ediciones extremas de imágenes, pero sí «proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable».
Esta iniciativa de Google representa uno de los primeros esfuerzos por parte de un gigante tecnológico en la identificación de contenido creado con IA, cumpliendo además con los compromisos establecidos tanto por Google como por otras compañías que avanzan en el desarrollo responsable de la IA ante la Casa Blanca.
Identificar contenido generado por IA para los usuarios fue uno de los ocho compromisos firmados.
Te puede interesar: Google, Microsoft, OpenAI y otras compañías tecnológicas se comprometen al desarrollo seguro y responsable de la inteligencia artificial
Por el momento, SynthID estará disponible para usuarios seleccionados que utilicen la herramienta de IA generativa, Vertex AI, ofrecida por Google Cloud, a través del modelo de conversión de texto a imagen de la compañía llamado Imagen.
Los usuarios podrán agregar la marca de agua digital y escanear imágenes para identificar si son generadas con IA o no, señala el anuncio.
Google espera perfeccionar SynthID e integrarlo a más productos propios y disponibles para terceros próximamente. Además, la compañía buscará darle un alcance más allá de las imágenes creadas con IA, ya que considera que se puede adaptar a otros modelos de identificación para texto o audio con IA en el futuro.
Imagen creada con Stable Diffusion
¿Más temas de interés?
OpenAI presenta una versión de ChatGPT para empresas
Binance lanza servicio de envío de remesas en criptomonedas para América Latina
Grayscale gana demanda a la SEC en tribunales para la aprobación de su ETF de Bitcoin al contado
