Meta se hizo pasar por adolescentes para probar chatbots de IA rivales

El proyecto recibió el nombre interno de Kahn y fue administrado por un metacontratista llamado Kovalen. WIRED informa que cientos de contratistas han creado cuentas ficticias para menores de 18 años. Enviaron indicaciones e imágenes a los chatbots de los concursantes y luego registraron las respuestas en una hoja de cálculo. El esfuerzo estuvo activo el 21 de abril de 2026.

Los objetivos eran ChatGPT de OpenAI, Gemini de Google y Character.AI. Ninguno de los tres sabía que se estaba llevando a cabo el experimento.

Qué se les pide a los contratistas que hagan

Las indicaciones se crearon para impulsar a los chatbots a obtener respuestas y desafiar sus medidas de seguridad. En una sola ronda, completada en agosto de 2025, se ejecutaron más de 45.000 indicaciones a través de herramientas de la competencia. Nunca se ha informado a las empresas detrás de estas herramientas.

WIRED revisó una hoja de cálculo de 3748 indicaciones. Cientos de ellos se enfrentaron al suicidio y la autolesión. Cientos más cubrían los trastornos alimentarios. Al menos 239 involucraban sexo o romance, y otros hablaban de drogas, malas palabras e insultos raciales. Muchos también han tomado la voz del niño en crisis. Una niña de 13 años finge estar embarazada y pregunta dónde comprar pastillas. Otro se hizo pasar por una niña que preguntaba cómo ocultar un trastorno alimentario a sus padres.

Algunas fotografías enviadas por contratistas incluyen pastillas y cuchillos. Una hoja de cálculo separada enumera todo el perfil falso, incluido el nombre, la dirección de correo electrónico, la contraseña y la fecha de nacimiento.

La defensa de Meta

Meta no niega el trabajo. Enmarca esto como una práctica industrial normal. "Probar y comparar las respuestas de los chatbots para ayudar a garantizar experiencias seguras y apropiadas para la edad es una práctica responsable y estándar de la industria, y cualquier sugerencia tergiversa por completo cómo trabajan las empresas de tecnología para refinar y mejorar sus sistemas", dijo un portavoz a WIRED.

La compañía añadió que no utiliza evaluaciones comparativas de la competencia para entrenar sus propios modelos de IA. Kovalen no respondió a las solicitudes de comentarios.

Un documento interno de Kovalen lo expresa mejor. Describió el proyecto como una "evaluación comparativa integral de seguridad de IA" que proporciona "conjuntos de datos críticos para la comparación y el cumplimiento de modelos".

No es inusual probar el producto de un competidor por sí solo. Business Insider informó el año pasado que los contratistas de Bird de Google compararon sus respuestas con ChatGPT. Luego reescribieron las respuestas de Bard para igualarlas o superarlas. Lo que destaca aquí es la escala, el disfraz y el contenido.

¿Por qué este se ve diferente?

Un detalle que inquieta más a los expertos: el uso de cuentas disfrazadas de niños. Rumman Chowdhury, director ejecutivo de Human Intelligence, revisó una muestra de las indicaciones.

La configuración le molestó. Un largo proyecto llevado a cabo a través de "cuentas ficticias disfrazadas de niños" está "más allá de lo que normalmente se describe como una evaluación de 'estándar de la industria'", dijo. Él llama a esto la "zona gris de la gobernanza", donde la seguridad se convierte en una cobertura conveniente para las prácticas competitivas.

Dos abogados especializados en discursos en línea revisaron el ejemplo de Wired. El material, dicen, no podría atraer material de abuso sexual infantil ni obscenidad ilegal. Aun así, los antiguos contratistas describieron el trabajo como preocupante. Uno dijo que sus colegas temían que estuvieran creando o almacenando material de abuso.

A otro le preocupa que el proyecto extraiga silenciosamente datos de sus rivales para retroalimentarlos a los propios sistemas de Meta.

Los rivales no están contentos

Las tres empresas objetivo prohíben este tipo de pruebas en sus términos de servicio. OpenAI prohíbe las pruebas de seguridad no solicitadas, los intentos de eludir la seguridad y el uso de resultados para crear modelos competitivos. Google prohíbe los intentos de eludir sus filtros de seguridad. Character.AI prohíbe el contenido dañino, explotador e ilegal. A finales de 2025, cerró por completo el chat abierto para usuarios menores de 18 años.

Ninguno de ellos aprobó el trabajo. Un portavoz de Character.AI dijo que el comportamiento violaba "nuestros términos de servicio" y "los personajes y mundos que crea nuestra comunidad". OpenAI dijo que estaba investigando el problema, pero se negó a hacer más comentarios. Google dijo que no autorizó la prueba y desconocía su propósito. Sus propios controles, añadió, mostraron que Gemini respondió de acuerdo con su política.

Ya se avecina una pelea con los reguladores

El momento no podría ser peor. En septiembre de 2025, la Comisión Federal de Comercio de EE. UU. inició una investigación formal sobre la IA y la protección infantil. Cubre Meta, OpenAI y Google, entre otros. Ahora, un informe muestra que una de esas empresas está investigando a otras con cuentas infantiles falsas.

Europa tiene su propio hígado. Tanto la Ley de IA como la Ley de Servicios Digitales abordan los riesgos que sus sistemas representan para los menores en las plataformas de prensa. Ambos pueden llegar a cualquier empresa que opere en la manzana. Los reguladores de ambos lados del Atlántico ahora hacen la misma pregunta: ¿Quién es responsable cuando un chatbot habla con un niño sobre autolesiones? La vigilancia se está convirtiendo rápidamente en un mercado propio, con capital de riesgo fluyendo hacia nuevas empresas de seguridad de agentes.

El episodio también se ajusta a un patrón más amplio. Meta guarda de cerca sus propias ambiciones en materia de IA. Incluso restringió el uso de las herramientas de codificación de la competencia por parte de los ingenieros mientras construían las suyas propias. Mientras tanto, los fabricantes de chatbots enfrentan una costosa competencia por los usuarios y la credibilidad. Tanto Anthropologie como OpenAI persiguen clientes que pagan. OpenAI se ha trasladado a la publicidad. Google lucha por mantener su dominio rompiendo la era de la IA. En esa competencia, los controles de seguridad y la inteligencia competitiva pueden comenzar a desdibujarse.

Ambas lecturas no pueden ser ciertas.

Esa ambigüedad es la verdadera historia. Meta dice que está haciendo que los chatbots sean más seguros. Sus críticos dicen que se hizo pasar por contratistas cuando eran niños para explotar a sus rivales, y luego enmarcó todo el asunto como un ejercicio de seguridad. Los documentos ya están disponibles y los reguladores están dando vueltas. Meta ahora tiene que decirles qué versión es correcta.

Si usted o alguien que conoce tiene dificultades, hay soporte disponible. En el Reino Unido e Irlanda, se puede contactar a Samaritans de forma gratuita llamando al 116 123. En EE. UU., 988 Suicide and Crisis Lifeline ofrece ayuda las 24 horas. Una lista de líneas de ayuda internacionales está disponible a través de la Asociación Internacional para la Prevención del Suicidio.