La Frontera Antropológica pide una pausa coherente y verificable para la IA
La antropología se ocupa de la situación en la que la tecnología espera permiso. La compañía argumentó el jueves que los desarrolladores de Frontier AI deberían crear un proceso coordinado y verificable para ralentizar o suspender temporalmente el desarrollo si los sistemas avanzados comienzan a mejorar más rápido de lo que la sociedad puede soportar las consecuencias.
La propuesta es menos un anuncio de producto que una solicitud de que la industria acepte alcanzar un punto de equilibrio antes de que lo necesite.
Los desencadenantes de los nombres antropomórficos son la superación personal iterativa, sistemas de inteligencia artificial capaces de acelerar significativamente su propio desarrollo. esa habilidad "Habrá un gran avance en la historia de la tecnología", Pero la superación personal iterativa total "también puede aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de inteligencia artificial", dijo la compañía.
Como indicador de hasta dónde ha llegado la automatización de su trabajo, Anthropic dijo que en mayo, más del 80% del código integrado en su base de código fue escrito por su modelo, Claude.
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
Lo más agudo del argumento es la coordinación más que la precaución. Sería fácil para una empresa implementar una ruptura unilateral, reconoció Anthropic, pero en la mayoría de los casos llevaría a aquellos a avanzar, ralentizándolo en lugar de cambiar los límites.
Una pausa que requeriría un acuerdo entre cualquier cosa "Múltiples laboratorios con buenos recursos" En la frontera tecnológica, además de reglas sobre qué condiciones la desencadenarán o levantarán y quién supervisará todo el sistema.
La preocupación por la superación personal no es un gesto especulativo por parte del antrópico; Señala sus propias operaciones como prueba. Si un modelo ya escribe la inmensa mayoría del código que genera el siguiente modelo, el bucle entre un sistema y su propia mejora ya no es teórico, sino meramente parcial.
Los antropólogos sostienen que a partir de aquí el círculo se estrecha y que los frenos se acuerdan pero permanecen parciales en lugar de cerrados.
Esa es la parte difícil y Anthropic no pretende lo contrario. Una pausa verificable implica que los laboratorios pueden confirmar que los rivales realmente se detuvieron, acordaron umbrales para contar como demasiado rápido y que alguien está en pie para declararlo. Ninguno de ellos existe hoy, y las empresas que tienen que participar son competidores directos en un mercado donde ser el primero era el objetivo.
La respuesta del antropólogo es empezar a hablar. En los próximos meses, la compañía dijo que planea mantener conversaciones con formuladores de políticas, investigadores, grupos de la sociedad civil y otras organizaciones de inteligencia artificial para trabajar en cómo gestionar riesgos como la superación personal iterativa y cómo mejorar los procesos de coordinación. Se está posicionando como el convocante de una conversación que quiere que tenga el resto de la industria.
La medida se ajusta a un patrón de una empresa que ha desarrollado su marca para identificar los peligros de lo que vende. La objeción obvia se escribe sola: un laboratorio que se pone de acuerdo sobre cuándo debería parar la industria es también un laboratorio que sigue construyendo hasta que lo haga.
En los próximos meses se sabrá si los competidores ven la propuesta como una verdadera cuestión de coordinación o como un intento de un rival de establecer condiciones. Por ahora, Anthropic ha puesto el freno sobre la mesa. Nadie más aceptó alcanzarlo.
