La antropología quiere que los gobiernos tengan el poder de bloquear despliegues peligrosos de IA

Anthropic publicó dos marcos de políticas que exigen que los gobiernos tengan la autoridad legal para bloquear implementaciones peligrosas de IA y salvaguardias económicas para proteger a los trabajadores a medida que la IA remodela el mercado laboral. El marco avanzado de IA cubre las regulaciones de seguridad. El marco de política económica aborda el desplazamiento, la distribución del capital y las redes de seguridad social.

El marco de seguridad es el más agresivo de los dos. Los antropólogos quieren que los gobiernos “Riesgo significativo de pérdida catastrófica," vinculó las multas civiles con los ingresos anuales globales que aumentan con las infracciones repetidas. Esto solo se aplicaría a modelos entrenados utilizando operaciones de punto flotante superiores a 10²⁵, empresas que ganaron más de 500 millones de dólares en ingresos de IA o gastaron más de mil millones de dólares en I+D de IA.

Este umbral captura un pequeño número de empresas: la propia Anthropic, OpenAI, Google DeepMind, xAI y posiblemente Meta. Anthropologie está pidiendo una regulación que se aplicaría directamente a sus propios negocios, una posición que ha utilizado anteriormente para diferenciarse de los competidores que presionaron contra la supervisión.

El marco identifica cuatro categorías de riesgos catastróficos: el desarrollo de armas biológicas, el descubrimiento de vulnerabilidades cibernéticas a gran escala, la pérdida de control sobre los sistemas autónomos y la IA que automatiza su propia investigación y desarrollo. Anthropic señala su propia experiencia con Mythos Preview, que descubrió miles de vulnerabilidades de alta gravedad en todos los principales sistemas operativos y navegadores, como evidencia de que estos riesgos no son hipotéticos.

💜 de tecnología de la UE

Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!

Los desarrolladores de Frontier deben probar sus modelos, publicar resúmenes de resultados, someterse a evaluaciones independientes, mantener programas de seguridad y publicar informes de riesgos periódicos. Los antropólogos dicen que la transparencia por sí sola ya no es suficiente. "Las capacidades de IA mejorarán rápidamente en los próximos meses."La empresa escribió".Su régimen necesita mantener el impulso."

En Preemption, Anthropic intenta bloquear directamente las leyes estatales de inteligencia artificial de la Casa Blanca. "No creemos que el Congreso deba anular la ley estatal a menos que promulgue una ley federal que sea tan sólida como el marco que proponemos hoy.Dijo la empresa.cirugía,Permite a los estados regular la protección infantil, la protección del consumidor y otros asuntos más allá del alcance de las leyes federales de protección.

El marco económico es menos detallado pero aborda la cuestión del desplazamiento que los estudiantes de posgrado plantean en las ceremonias de graduación. Estas incluyen propuestas para cuentas de capital, seguros salariales, incentivos fiscales y una red de seguridad social ampliada. El objetivo es garantizar los beneficios financieros de la IA”.ampliamente compartido,"Aunque los detalles específicos de la financiación y la implementación quedan para un futuro debate

El momento es deliberado. Anthropic está luchando contra el Pentágono en los tribunales para incluirlo en la lista negra como riesgo para la cadena de suministro. Se está preparando para una IPO. Y está negociando un acuerdo con el Congreso que cambiaría las preferencias estatales sobre IA por leyes de seguridad en línea. Al publicar su propio marco, Anthropic intenta establecer los términos de un debate regulatorio que avanza rápidamente y en gran medida sin su participación.