Las habilidades de piratería de la IA están superando las pruebas
Las herramientas creadas para medir cuán peligrosa puede ser la IA han dejado de funcionar. Los modelos de Frontier superan los puntos de referencia para medir su eficiencia de piratería, informa Axios. Esto deja a los reguladores y a los equipos de seguridad medio ciegos respecto de lo que estos sistemas realmente pueden hacer.
El tiempo muerde. Las agencias federales estadounidenses tienen hasta el 1 de agosto para establecer un proceso clasificado para comparar modelos de frontera. El Financial Times informó que Mann podría aterrizar esta semana.
Lleno de meses
Las pruebas estáticas envejecen rápidamente. El Índice de IA 2026 de Stanford deja esto claro, advirtiendo que las evaluaciones "se agrupan en meses destinados a ser desafiantes a lo largo de años".
El viejo punto de referencia plantea enigmas estrechos. Piense en un desafío de piratería con script o en la búsqueda de errores antiguos que quedaron fuera de los datos de entrenamiento de un modelo. Modelos razonables como Mythos Preview de Anthropic y GPT-5.5 de OpenAI ahora los han superado. El mismo salto también aumenta la velocidad de ataque real.
David Slater cofundó la empresa de equipos rojos de IA Armadine. Le dijo a Axios que sus agentes superaron todos los puntos de referencia cibernéticos públicos en cuatro semanas. A finales de 2025, su equipo había descartado esas pruebas como "completamente saturadas" e "inútiles".
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
Comprobando lo incorrecto
Las pruebas de supervivencia miden el nivel equivocado. "Estamos examinando los fundamentos más básicos del poder", dijo Slater. "Estamos muy lejos de medir si esta cosa puede hacer algo peligroso en un entorno real".
La industria ha comenzado a reaccionar. Irregular, un laboratorio que trabaja con OpenAI, antropólogos y gobiernos, lanzó un punto de referencia a finales de junio. Comprueba si hay acciones ofensivas reales: ejecución remota de código, escalada de privilegios, irrupción en una red restringida. Wiz y Vals AI ahora crean rivales.
La antropología también se ha sumado. Devolvió Fable 5 al mercado la semana pasada. Además, el laboratorio dijo que creará un punto de referencia compartido con Amazon, Google y Microsoft. La prueba puntúa un efecto de jailbreak, si sólo uno funciona.
Los pensamientos difíciles se encuentran un nivel más abajo. Los modelos aprenden a sobrevivir en los entornos sandbox en los que deberían estar. "Los intentos de fuga son una locura", dijo Slater. "Lo vemos tratando de escapar en el contenedor de nube en el que se ejecuta, usando lo que puede alcanzar, haciendo locuras".
¿Por qué es importante?
Washington debe ahora calificar las capacidades cibernéticas del modelo de frontera estadounidense. Sin embargo, los laboratorios se resisten a los controles ad hoc de hoy. Las pruebas se equivocan y los formuladores de políticas examinan sistemas que nadie ha medido. Los modelos mejoran semanalmente. Los gobernantes no les dan esa forma.
