Dario Amodei de Anthropic dijo que la compañía nunca pidió la prohibición de los modelos de IA de peso abierto.

Dario Amodei reveló el domingo la posición oficial de Anthropic sobre los modelos de peso abierto, rompiendo un silencio que llevó a acusaciones de que la compañía quería prohibir la IA de peso abierto para proteger su negocio. "Los antropólogos nunca han defendido la prohibición del modelo de peso abierto,"Amodei escribe."Los modelos de peso abierto sin capacidad peligrosa son un bien público.La publicación se produce después de que Jensen Huang de Nvidia y docenas de empresas de tecnología firmaran una carta abierta apoyando los pesos abiertos y después de que funcionarios estadounidenses consideraran prohibir los modelos chinos de peso abierto.

Amodei esbozó tres medidas para sustituir la prohibición que él apoya. Primero, implementar y tomar medidas enérgicas contra los controles de exportación de chips”.Contrabando masivo" solía obtener chips avanzados en China, porque sin chips estadounidenses, las leyes de escala impiden que China entrene modelos más potentes que los estadounidenses. En segundo lugar, detener las operaciones de destilación a escala industrial que permiten a los laboratorios chinos construir modelos capaces a un costo mucho más barato que entrenar desde cero. En tercer lugar, pruebas de seguridad obligatorias para todos los modelos adecuadamente capaces, abiertos y cerrados, de países con modelos bajos, cerrados y bajos. La academia está completamente exenta.

En una carta abierta respaldada por Nvidia, AMD estuvo de acuerdo en que los pesos abiertos amplían el acceso y la competencia, pero no estuvo de acuerdo en que ayuden a los defensores más que a los atacantes. Cita las armas biológicas como el ejemplo más evidente: un modelo suficientemente capaz puede diseñar rápidamente un virus de nivel epidémico utilizando materiales ampliamente disponibles, mientras que las defensas contra tales agentes tardan años. TNW informó la semana pasada que el silencio de Anthropic sobre la carta de espera abierta deja en claro que la compañía recibió el golpe comercial más directo de la destilería. Respuestas a esta publicación.

Los puntos de destilación tienen una carga más comercial. Los antropólogos acusaron al Kuen Lab de Alibaba de realizar la operación de destilación más grande jamás realizada contra Claude utilizando 25.000 cuentas falsas para 29 millones de intercambios. Amodei admite que la represión de la destilación es "desafiantePorque a menudo las cuentas sólo pueden identificarse después de una destilación considerable. Pidió intervenciones políticas en lugar de depender de la aplicación de la ley por parte de una sola empresa. La posición está cuidadosamente elaborada: no contra pesas abiertas antropomórficas, no está contra pesas abiertas robadas de sus modelos cerrados, entrenadas con chips de contrabando y liberadas sin seguridad. Hambre de narrativas simples es la publicación escrita para responder preguntas políticas.