El hombre detrás de la IA de Google cree que el mundo necesita un árbitro. Y redactó las reglas. Demis Hassabis quiere un organismo de control liderado por Estados Unidos que verifique los modelos fronterizos antes de su publicación. Sigue el modelo del policía de Wall Street y puede frenar a toda la industria.
Demis Hasabis no suele dar la alarma. El martes lo hizo.
El jefe de Google DeepMind y premio Nobel publicó un manifiesto sobre X. En él, sostiene que la inteligencia artificial general "probablemente sólo esté a unos pocos años de distancia". Dijo que el mundo no está preparado. Lo llama una "ventana preciosa" antes de que llegue AGI y se esté cerrando.
Su solución es inusualmente concreta. Quiere que Estados Unidos cree un nuevo organismo de estándares de IA. Su modelo es FINRA, el organismo de control financiado por la industria que gobierna Wall Street bajo supervisión gubernamental.
Un árbitro para la frontera
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
La agencia será una asociación público-privada, financiada principalmente por el laboratorio. Su junta estará formada por expertos independientes, entre ellos ganadores del Premio Turing, y voces gubernamentales y de código abierto.
Su trabajo es probar los modelos más resistentes antes de enviarlos. Al principio, los laboratorios entregarán sus sistemas voluntariamente, hasta 30 días antes de su lanzamiento. Las pruebas investigarán cosas peligrosas: habilidades de ciberataque, riesgos biológicos y nucleares y signos de fraude.
Una vez que el régimen funcione, será estricto. Un modelo de "clase de frontera" debe pasar antes de llegar al mercado estadounidense. El organismo fijará criterios y los actualizará trimestralmente. Las reglas se aplicarán a cualquier modelo de este tipo, abierto o cerrado, independientemente de dónde se construya. Las empresas emergentes y los académicos se salvarán.
Fuerza de tracción del freno de mano
La parte más interesante son los frenos. Hassabis dice que el cuerpo puede "estabilizarse" a medida que aumenta el riesgo. Esto incluye "coordinar las desaceleraciones del desarrollo entre Frontier Labs si se considera necesario".
Esto es algo extraordinario que ofrecer a un jefe de laboratorio. Busca una medida para detener su propia industria.
Le dijo a Axios, que rompió el plan, que las ciberamenazas actuales son sólo "disparos de advertencia". Dentro de 18 meses, advirtió, podrían surgir armas biológicas y nucleares más graves. Pueden encajar en el modelo de código abierto que ningún gobierno puede imaginar. Su línea de tiempo es agresiva. El organismo quiere huir antes de fin de año. Dijo que ha informado a la administración Trump, a laboratorios rivales y a funcionarios europeos durante meses. "El ruido", afirmó, fue "muy positivo".
por qué ahora
El tiempo no es un accidente. El mes pasado, la administración Trump congeló los modelos más potentes de Anthropic de la noche a la mañana con una orden de exportación. Siguieron semanas de tensas discusiones, sin un libro de reglas. Hassabis lo llamó "una especie de llamada de atención". OpenAI, temeroso de un destino similar, retuvo GPT-5.6 hasta que el gobierno lo firmara.
No es el único que pide reglas. Él y Dario Amodei de Anthropic pidieron una coalición liderada por Estados Unidos en el G7. Amodei quiere una agencia estilo FAA que pueda bloquear modelos inseguros. Los jefes de laboratorio ahora coinciden en que Washington debería regularlos. Se diferencian principalmente en quién sostiene el mazo.
Hasabis enmarca todo esto en términos casi cósmicos. AGI, escribe, se parece menos a Internet que al fuego o la electricidad. "Básicamente encontramos una manera de pensar en la arena. Es milagroso". Las preguntas difíciles son aquellas a las que su plan no puede responder. ¿Se le puede pedir alguna vez que se detenga a una organización financiada por laboratorios que busca fraudes en los modelos de los que se benefician?
