Google es responsable de su visión general de la IA, según dictamina un tribunal alemán
Un tribunal alemán ha dictaminado que Google es directamente responsable de las afirmaciones falsas realizadas en sus resúmenes de IA, tratando los resúmenes escritos por IA como discurso propio de Google en lugar de resultados de búsqueda ordinarios. Es una de las primeras reglas para examinar quién tiene la culpa cuando un sistema de IA generativa falla, y la respuesta que da es contundente: la empresa que lo construyó.
El tribunal regional de Munich ha emitido una orden judicial temporal que impide a Google repetir declaraciones falsas sobre dos editores de Munich, cuyos nombres en su descripción general de IA se vinculan falsamente con estafas, trampas de suscripción y "prácticas comerciales cuestionables".
Según el tribunal, la IA inventó conexiones que no aparecían en ninguna de las fuentes vinculadas, confundiendo a los editores con empresas verdaderamente oscuras. Los editores enviaron una carta de cese y desistimiento y Google no respondió adecuadamente.
Editores, no motores de búsqueda
Crux es una reclasificación legal. Los motores de búsqueda alemanes han tenido durante mucho tiempo una responsabilidad limitada porque solo indexan resúmenes de IA de páginas de terceros, según el tribunal, hacen algo diferente: crean, en palabras de Google, "ideas distintas, nuevas y originales", por lo que Google tiene "influencia exclusiva" sobre ellas y es propietario de lo que crean.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
El tribunal calificó la afirmación falsa como "la propia declaración del acusado".
También rechazó la defensa central de Google de que los usuarios pueden comprobar ellos mismos las fuentes vinculadas y no saben cómo confiar ciegamente en la IA. La oportunidad de refutar una declaración a través de una investigación adicional no exime a la persona que la revela, dijo el tribunal, estableciendo paralelismos con la ley de prensa, donde un adelanto engañoso es efectivo incluso si uno no lee el artículo completo.
Las investigaciones muestran que solo el 1 por ciento de los usuarios hacen clic en un recurso desde una descripción general de IA. La Ley de Servicios Digitales de Google tampoco dio marcha atrás en la protección de los proveedores de alojamiento.
Las advertencias son importantes. Se trata de una orden preliminar de un tribunal regional, no de una sentencia definitiva ni de un precedente vinculante; Alemania es un sistema de derecho civil y Google puede apelar. Un caso alemán separado recientemente desestimó un reclamo similar por parte de un cirujano, al tiempo que afirmaba el principio de que Google podría ser responsable.
Google, a quien el tribunal ordenó cubrir el 80 por ciento de los costos, no hizo comentarios.
La escala es la razón por la que importa más allá de dos editores. Un análisis del New York Times encontró que la descripción general de la IA de Google, que se ejecuta en Gemini 3, es correcta aproximadamente el 91 por ciento de las veces, pero más de la mitad de las respuestas correctas no están respaldadas por las fuentes citadas. En el volumen de Google, los errores suman millones de respuestas falsas
El mismo argumento, si sobrevive a la apelación, se aplicará a todos los motores de respuesta de IA, desde ChatGPT hasta Perplexity, y el tribunal dijo que su argumento tiene alcance internacional. También se encuentra bajo una intensa presión europea sobre Google, que ya enfrenta una gran multa de la UE y órdenes de abrir Android a sus rivales de IA bajo las nuevas reglas de IA del bloque. Para una industria propensa al descargo de responsabilidad de que "la IA puede cometer errores", esta es la parte que debería doler.
