Google presenta una herramienta de marcas de agua con inteligencia artificial en medio de una creciente presión política
A medida que los gobiernos aumentan la demanda de etiquetas en el contenido generado por IA, Google DeepMind ha lanzado una posible solución: una herramienta de marca de agua.
Llamado SynthID, el sistema utiliza aprendizaje profundo para incrustar sellos digitales en los píxeles de la imagen. Según DeepMind, las marcas de agua son invisibles para el ojo humano, pero pueden detectarse mediante algoritmos.
El laboratorio de investigación con sede en el Reino Unido afirma que las marcas de agua no comprometen la calidad de la imagen. Sigue siendo detectable incluso después de cambios, como agregar filtros, cambiar colores y recortar.
El concepto es similar a las marcas de agua aplicadas a películas y fotografías de archivo. Pero en este caso, el objetivo no es proteger a los titulares de derechos de la falsificación, sino proteger a los espectadores de las trampas.
"Cuando sintetizador No es una panacea para la desinformación, es una solución tecnológica prometedora para algunos de los apremiantes problemas de seguridad de la IA actuales". Demis Hassabis, cofundador y director ejecutivo de Google DeepMind, dijo en X.
<3 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
SynthID surge en medio de crecientes preocupaciones sobre la IA generativa. En todo el mundo, los gobiernos han emitido advertencias sobre imágenes manipuladas que socavan las elecciones, distorsionan la realidad y engañan al público.
Los riesgos fueron revelados recientemente en el video de la campaña presidencial de Ron DeSantis. A primera vista, las imágenes parecen mostrar imágenes reales de Donald Trump abrazando y besando a Anthony Fauci, quien dirigió la respuesta de la Casa Blanca a la pandemia de COVID-19. Sin embargo, los expertos forenses creen que las imágenes son deepfakes.
China ya ha impuesto regulaciones estrictas a dicha tecnología. En enero, el país logró Obligatorio Etiquetar contenidos producidos con inteligencia artificial. En la UE se están aplicando normas similares.
"Tenemos que etiquetar todo lo generado por IA con una marca de agua", dijo el comisario Thierry Breton en junio.
También se está presionando a las empresas estadounidenses para que identifiquen el contenido creado con IA. Después de una reunión en la Casa Blanca el mes pasado, Google y otros seis gigantes tecnológicos compromiso Desarrollar sistema de marcas de agua.
SynthID es un paso hacia el cumplimiento de la promesa, pero el sistema sigue siendo experimental. Inicialmente, la herramienta sólo estará disponible para algunos clientes de pago del negocio de computación en la nube de Google. Esto sólo funciona en contenido producido con Imagen Art Generator.
que puede cambiar en el futuro. Según Google, SynthID puede Se ampliará la IA adicional a todos los modelos. La compañía dijo que planea integrar la herramienta con otros productos.
Los gobiernos y los reguladores seguirán de cerca los acontecimientos. A medida que se acercan las elecciones en Estados Unidos, India y el Reino Unido, la amenaza que representa la IA cobra gran importancia.
