Desde el escenario del Vaticano, Chris Olah de Anthropic dice que la IA no puede ser gestionada únicamente por laboratorios de IA
Sentado con el Papa León XIV en el lanzamiento de Magnifica Humanitas, el líder de interpretabilidad de la compañía admitió que los incentivos de los laboratorios de frontera pueden distraer a los investigadores de hacer lo correcto.
Christopher Olah, cofundador de Anthropic y jefe de investigación de interpretabilidad, usó su asiento en el Vaticano el lunes para argumentar que ningún líder de una importante empresa de IA ha construido una plataforma de esta escala antes: el desarrollo de Frontier AI no puede dejarse en manos de Frontier AI Labs.
Olah habló en la presentación oficial de la primera encíclica Magnifica Humanitas del Papa León XIV en el Salón del Sínodo del Vaticano.
"Cada frontera es un laboratorio de IA" el dijo "Opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto".
Incluso los investigadores bien intencionados, añadió, viven dentro de esas fuerzas. La conclusión a la que llega es que el escrutinio externo por parte de líderes religiosos, gobiernos e instituciones de la sociedad civil es esencial.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
La otra mitad del discurso fue sobre el trabajo. Olah le dijo a Room que existía "una posibilidad real" de que la IA desplazara el trabajo humano "en gran medida" y que, “Si eso sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas."
Esta frase es el reconocimiento público más definitivo hasta la fecha por parte del fundador de un laboratorio fronterizo de que la tecnología que su empresa está desarrollando puede, según sus propias estimaciones internas, eliminar empleos más rápido de lo que el mercado laboral puede reabsorberlos.
La presencia de antropólogos en el Vaticano ya se ha convertido, en las últimas dos semanas, en el reinicio más visible del año para cualquier empresa de inteligencia artificial.
La firma anuncia una vista previa de la relación en la oficina coincidente; Ahora se encuentra dentro de la declaración más trascendental de la Iglesia Católica sobre una tecnología desde que la Rerum Novarum de León XIII se dirigió al capital industrial en 1891.
El papel específico de Olah, liderando la investigación de interpretabilidad de la compañía, se considera el reclamo más fuerte de credibilidad de seguridad de la empresa: dirige el equipo que intenta aplicar ingeniería inversa a lo que los modelos de frontera realmente están haciendo en el interior.
El trasfondo político es lo opuesto a la moralidad. La antropología pasó la primavera en el centro de dos enfrentamientos separados con el gobierno de Estados Unidos.
El Pentágono retiró a la compañía de su trabajo de inteligencia artificial de mayor rango en abril debido a restricciones en el uso propio de la empresa, y luego lo reemplazó con contratos con Nvidia, Microsoft y AWS.
La administración Trump ha bloqueado una expansión de Mythos, el modelo autónomo de descubrimiento de vulnerabilidades que ha sacudido la gobernanza de la ciberseguridad bancaria en todo el mundo. La aparición de Olah en el mismo escenario que el Papa, pidiendo supervisión externa, fue una respuesta directa.
Aterriza en un momento de cierto peso comercial para la empresa. Anthropic está en conversaciones para recaudar 30.000 millones de dólares con una valoración de 900.000 millones de dólares.
La inconsistencia es marcada en la página, y Olah no pretendió que no lo fuera. "Empresas como la nuestra", dijo a la sala, trabajando bajo "Fuertes presiones comerciales, geopolíticas y personales que pueden entrar en conflicto con los intereses más amplios de la sociedad".
El argumento no fue que los antropólogos sobresalieran de esa presión. Fue que su respuesta estaba fuera del laboratorio.
Lo que la encíclica pide al gobierno y a la sociedad civil en términos específicos, y lo que la invitación de Olah se traducirá en la relación de Anthropic con los reguladores estadounidenses, es la parte no resuelta.
Magnifica humanitas no nombra principios; Es un nombre enmarcado. Lo mismo hizo el discurso de Ola en el lanzamiento. En efecto, ambos se niegan a subcontratar la arquitectura regulatoria de la próxima década a las empresas que han pasado los últimos tres desarrollando las tecnologías que regula.
La elección del mensajero tampoco fue sutil. Olah es el fundador de un laboratorio de IA y les dice a los visitantes de los Cardenales, el Papa y la Casa Blanca que los laboratorios de IA no pueden hacerlo solos.
Si ese argumento elimina el principio práctico es una cuestión abierta. Que un fundador de Frontier-Lab haya llegado desde el interior del Vaticano es una noticia en sí misma.
