El CEO de Amazon lanza medidas enérgicas gubernamentales que apagan la IA más poderosa de Anthropic

Se dice que el director ejecutivo de Amazon, Andy Jassy, ​​es la fuente de preocupaciones de seguridad que obligaron al gobierno de EE. UU. a cerrar Fable 5 y Mythos 5 para todos los clientes el viernes. El Wall Street Journal informó que Jaycee le dijo al secretario del Tesoro, Scott Besant, y a otros funcionarios, que los investigadores de Amazon utilizaron Fable 5 para obtener información que podría usarse en ataques cibernéticos. Luego, el gobierno impuso prohibiciones de control de exportaciones en ambos modelos.

La revelación añade una dimensión inquietante a la historia. Amazon es uno de los mayores inversores de Anthropic, invierte miles de millones y obtiene a cambio 100 mil millones de dólares en compromisos de gasto en la nube. La empresa que financia la infraestructura de Anthropic dijo al gobierno que sus modelos eran peligrosos.

Un portavoz de Amazon dijo que "No es raro que los gobiernos soliciten nuestro asesoramiento sobre posibles riesgos de seguridad.Pero se negó a compartir detalles de las conversaciones. El portavoz también señaló una actualización de estado de AWS que confirma que el modelo de plataforma en la nube de Amazon se vio afectado por el cierre.

David Sachs, el ex zar de la IA de Trump que ahora es vicepresidente del Consejo Asesor del Presidente sobre Ciencia y Tecnología, ofrece una versión diferente. Él dijo "Un socio de confianza tanto de Anthropic como de USG ideó el jailbreak." Saco añadió: "El administrador le pidió a Dario que arreglara el jailbreak o que cancelara la implementación del modelo. Darío se negó."

La versión del antropólogo es diferente. La compañía dijo que había revisado la técnica de jailbreak y descubrió que "Una pequeña cantidad de vulnerabilidades menores previamente conocidas."Califica la respuesta del gobierno como inconsistente y dice que las capacidades en cuestión ya están disponibles en otros modelos de acceso público. El cierre afectó a todos los clientes en todo el mundo porque Anthropic no pudo filtrar a los ciudadanos extranjeros de los usuarios estadounidenses en tiempo real.

La secuencia es importante para la industria de la IA. Amazon ha invertido miles de millones en Anthropy. Modelos construidos antropogénicos en AWS. El director ejecutivo de Amazon dijo al gobierno que estos modelos representan un riesgo para la seguridad. El gobierno utilizó controles de exportación para obligarlos a desconectarse. Luego, AWS se vio afectada por el cierre. Es un ouroboros de dependencia corporativa y retroceso regulatorio.

Para Anthropic, la pregunta inmediata es qué tan rápido podrá recuperar el acceso. Para la industria en general, lo que importa es el precedente. Si un importante proveedor de la nube planteó al Secretario del Tesoro su preocupación por activar una medida de control de exportaciones contra las empresas de su propia cartera, la dinámica competitiva del mercado de la IA acaba de adquirir una nueva arma. Mythos es utilizado por bancos y agencias gubernamentales para descubrir vulnerabilidades. Una disputa entre el mayor inversor de Anthropic y el gobierno ha provocado que cada uno de esos clientes pierda el acceso, y su director ejecutivo ha estado presionando para obtener más poderes regulatorios.