El Papa León XIV pide al Vaticano que desarme a AI, en la primera encíclica de su pontificado
Magnifica Humanitas pide romper el monopolio de la tecnología, abolir la guerra algorítmica y se presenta con el cofundador de Anthropic, Chris Olah.
El Papa León XIV utilizó la primera encíclica de su pontificado, publicada en Roma el lunes, para pedir el desarme de la inteligencia artificial.
En el documento de 245 párrafos titulado Magnifica Humanitas, la IA se presenta como una tecnología creada para servir a la gente, y desarmarla significa restaurar la primacía moral de los humanos sobre los algoritmos.
"El desarme significa rechazar la idea de que el poder tecnológico confiere automáticamente el derecho a gobernar." escribió el Papa.
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
"El desarme no consiste en rechazar la tecnología, sino en impedir que domine a la humanidad."
La encíclica es el trabajo más trascendental de su papado de años, y la primera vez que un Papa organiza una carta enteramente fundacional en torno a una tecnología emergente en lugar de una cuestión doctrinal o social.
León, el primer Papa estadounidense y ex estudiante de matemáticas de Villanova, lo firmó el 15 de mayo, en el 135º aniversario de la Rerum Novarum de León XIII, que estableció la enseñanza social católica para la era industrial.
El marco es intencional: esta encíclica se ofrece como su sucesora para la era de la IA.
Sus objetivos centrales son la concentración y la guerra. El Papa ha pedido que la IA sea más "amigable con los humanos" y libre del "control monopólico", lenguaje que va directamente en contra de la media docena de empresas estadounidenses que ahora definen los límites de la tecnología.
En la batalla, era más astuto. "Ningún algoritmo puede hacer que la guerra sea moralmente aceptable" el escribio "La IA no elimina la inhumanidad inherente al conflicto; de hecho, sólo puede precipitarlo y hacerlo más impersonal".
La elección de los oradores para el lanzamiento subrayó la línea. Christopher Olah, cofundador de Anthropic y jefe de investigación sobre interpretabilidad, se presentó ante los cardenales en el Salón del Sínodo del Vaticano el lunes por la mañana.
Anthropic ha pasado los últimos dos meses en el centro de una controversia global separada sobre las implicaciones de seguridad de Mythos, su modelo autónomo de descubrimiento de vulnerabilidades que ha encontrado miles de días cero en todos los principales sistemas operativos.
La compañía ha chocado con la administración Trump por el uso de la tecnología en la guerra y la vigilancia.
Sobre ese último punto, la encíclica se encuentra ahora directamente frente a la Casa Blanca. Al vicepresidente JD Vance, un católico converso cercano al primer inversor de OpenAI, Peter Thiel, se le preguntó sobre el documento en una conferencia de prensa el 19 de mayo.
"Cuando el líder de la comunidad cristiana más grande del mundo habla de algo así, seguramente tendrá algún impacto". el dijo
"Y estoy seguro de que tendrá muchas ideas, algunas de las cuales probablemente estaré de acuerdo con otras, otras tal vez no".
En la misma sesión informativa, reiteró que el presidente Donald Trump dijo "queremos ganar la carrera de la IA contra el resto del mundo".
El entusiasmo estimado es mayor que el de esta semana. Thiel pasó parte de marzo dando una conferencia a puertas cerradas en el Palazzo Taverna de Roma sobre imágenes del anticristo, basándose en la tesis de que surgiría un gobierno tecnocrático mundial con el pretexto de evitar catástrofes provocadas por la inteligencia artificial, la energía nuclear o el clima.
El padre Paolo Benanti, asesor del Vaticano sobre IA, respondió en un artículo de opinión describiendo los discursos como "un acto permanente de herejía" contra el consenso liberal. Leo y Trump han debatido por separado la guerra de Irán.
Una encíclica no es, por diseño, un documento de política, sino más bien un marco moral bajo el cual se formulan los argumentos de política posteriores. Magnifica humanitas coloca la “dignidad humana” y los “estándares compartidos de justicia social” en el centro de cualquier arquitectura regulatoria futura y rige la guerra algorítmica desde allí.
El Papa León XIV lo presentó personalmente en lugar de delegarlo a los cardenales, una ruptura con la tradición. Se dirigió a los 1.400 millones de católicos del mundo. Se entendió a una audiencia más amplia.
