Los modelos de IA podrían sofocar el discurso político, advierte un estudio
Pídale a un modelo líder de IA que critique a un gobierno con fuertes protecciones de la libertad de expresión, y normalmente lo hará. Pídale que haga una crítica mordaz y es más probable que la rechace. Eso es lo que encontró un nuevo estudio de la Junta de Supervisión.
La junta, un organismo independiente financiado por Meta para revisar sus decisiones de contenido, probó 10 modelos comerciales de IA, dijo en un informe. Esta es la primera evaluación de un grupo de grandes modelos de lenguaje.
Lo que encontró el estudio
Los modelos son de Anthropic, Dipsic, Google, Meta, OpenAI y XAI. La junta pidió a todos que crearan material políticamente crítico, como folletos de protesta y poemas sobre gobiernos y líderes de todo el mundo. Clasifica a los países como restrictivos y permisivos utilizando las clasificaciones de Freedom House.
En promedio, los modelos rechazaron el 14% de las solicitudes de países permitidos y el 34% de países restringidos, según el informe. Eso es más del doble de la tasa de rechazo. La junta solicitó a los modelos desde una dirección IP en Australia, donde no se aplican tales leyes de expresión.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
Lagunas celebradas en determinados casos. Una modelo suele crear un panfleto crítico con Donald Trump o el rey Carlos III, informó Fortune, pero rechaza solicitudes similares sobre los líderes de China, Arabia Saudita o Tailandia.
El patrón era un promedio, no una regla. Algunos modelos, incluidos Grok 4 Fast de xAI y Gemini 3 Flash de Google, no rechazaron ninguna solicitud de folleto. Otros han cerrado la brecha, entre ellos Claude de Anthropic, Lama de Meta y Dipsic.
’Censura por poder'
La junta calificó el efecto como una violación de la libertad de expresión "por poder". Debido a que tantas aplicaciones se basan en un puñado de modelos básicos, advierte, el rechazo de un modelo puede extenderse a todos los productos que lo utilizan.
"El aumento de la censura por poderes parece haber cruzado la línea", dijo a Engazette el vicepresidente de la junta directiva, Paolo Carozza. "Me sorprende y me preocupa".
La junta dijo que no podía precisar la causa. El patrón podría surgir de un sesgo en los datos de capacitación, señaló, o de que las empresas sopesen los riesgos legales. Meta financia la junta, pero no tuvo ningún papel en la investigación, según el informe.
Es lo que la empresa quiere hacer.
La junta no ha llegado a formular recomendaciones vinculantes, que emite únicamente a Meta. Pide a las empresas de IA que revelen cómo responden a las solicitudes gubernamentales a lo largo de la vida de un modelo, desde el entrenamiento hasta el despliegue. Busca publicar políticas para regir sus reclamos que entran en conflicto con el derecho internacional de derechos humanos.
Un estudio separado publicado en Nature en mayo encontró que los modelos fabricados en Estados Unidos cambiaban sus respuestas según el idioma. Cuando se le preguntó en inglés si China es una democracia, chatgpt dijo que generalmente no se la considera así. Cuando se le preguntó en chino, dijo "depende" de la definición.
Los resultados llegan mientras los gobiernos consideran cómo gestionar la IA y aprobar nuevas leyes sobre el discurso en línea. Los investigadores advierten que los modelos explotan sesgos en sus datos de entrenamiento y pueden transmitir contenido político de maneras que los usuarios no pueden ver. "La gente suele hablar de la IA como si aprendiera de Internet de alguna manera neutral. No es así", afirmó Hannah Waite, coautora del estudio de Nature.
