Alibaba prohíbe el código en la nube para el seguimiento secreto de usuarios chinos
TL; DR
Alibaba prohibió el código de la nube después de que investigadores de seguridad descubrieron que Anthropic incorporó un código de seguimiento esteganográfico para identificar a los usuarios chinos. La prohibición sigue a las acusaciones de Anthropic de que Alibaba llevó a cabo el mayor ataque de destilación conocido en sus modelos.
Alibaba prohibió a sus empleados utilizar Claude Code, el agente de codificación impulsado por inteligencia artificial de Anthropic, después de que investigadores de seguridad descubrieran que la herramienta contenía códigos secretos diseñados para identificar a los usuarios chinos. La prohibición, que entró en vigor el 10 de julio, sigue a semanas de escalada de conflicto entre las dos empresas por acusaciones de que Alibaba robó las capacidades de inteligencia artificial de Anthropic mediante destilación a escala industrial.
"Dado que recientemente se descubrió que Claude Code tiene una vulnerabilidad de puerta trasera, después de una evaluación exhaustiva, Claude Code ahora se ha agregado a la lista de software de alto riesgo con vulnerabilidades de seguridad.", dijo Alibaba en un aviso interno informado por el South China Morning Post. La compañía sugirió que los trabajadores utilicen su propia plataforma de agente de codificación Qoder como alternativa.
Cómo funciona el seguimiento
El 30 de junio, un usuario de Reddit se identificó como LegitMichel777 realizando ingeniería inversa en un código clod y encontró un código ofuscado que había estado presente silenciosamente desde la versión 2.1.91 lanzada el 2 de abril, sin mención en las notas de la versión. El código verifica si la zona horaria del sistema del usuario está configurada en Asia/Shanghai o Asia/Urumqi y escanea la URL del proxy con una lista codificada de dominios chinos y direcciones de laboratorios de IA.
En lugar de registrar los resultados tradicionalmente, el sistema utiliza esteganografía para ocultar sus señales en los mensajes del sistema enviados a los servidores de Anthropic. Si la zona horaria es china, el formato de fecha cambia de guiones a barras y "apóstrofo".hoy es la fechaSe intercambia con uno de los tres caracteres Unicode visualmente idénticos pero técnicamente distintos, según las banderas que se activen.
Los cambios son invisibles para los usuarios humanos y potencialmente incluso para los modelos de IA, pero los servidores de Anthropic pueden analizarlos automáticamente. Partes del código de identificación se ofuscaron con la clave XOR 91, una técnica utilizada para evitar la extracción de texto sin formato durante el análisis del código.
Respuesta antropológica
Tarik Schipper, un ingeniero antropomórfico del equipo de Claude Code, le dijo a X que el seguimiento era "En marzo presentamos una prueba destinada a evitar el abuso y la dilución de cuentas por parte de revendedores no autorizados." Dijo que el equipo estaba "Significa bajarlo por un tiempo.Y la solicitud de extracción para eliminarlo se fusionó el 1 de julio.
La reversión coincide con el retiro del mercado de los modelos Fable 5 y Mythos 5 de Anthropic, que el Departamento de Comercio de EE. UU. ordenó a la compañía desactivar para todos los ciudadanos extranjeros a mediados de junio después de que los investigadores de Amazon descubrieran la vulnerabilidad de jailbreak. Los controles de exportación se levantaron el 30 de junio y Anthropic restableció el acceso el 2 de julio, diciendo que "aumentaría la cooperación gubernamental" en la seguridad fronteriza de la IA.
Antecedentes de destilación
La justificación de Anthropic para el código de seguimiento se encuentra dentro de una campaña más amplia de lo que llama el robo sistemático del poder de su modelo. En una carta del 10 de junio al Comité Bancario del Senado de EE. UU., la compañía acusó a los operadores afiliados al laboratorio Kuen AI de Alibaba de llevar a cabo el mayor ataque de destilación conocido contra Claude, utilizando casi 25.000 cuentas fraudulentas para generar 28,8 millones de intercambios entre abril y junio.
Alibaba ha negado las acusaciones. Anthropic nombró anteriormente a Dipsik, Moonshot AI y Minimax como perpetradores de campañas similares en febrero, enmarcando a Distillery como una amenaza existencial para los modelos de negocios de las empresas fronterizas de inteligencia artificial.
La destilación, la práctica de utilizar el resultado de un modelo potente para entrenar uno más pequeño, ocupa un área gris en el desarrollo de la IA. Las nuevas empresas asiáticas de IA han lanzado alternativas a los modelos de Anthropic en parte porque las prohibiciones de exportación de Fable 5 y Mythos 5 crearon una brecha en el mercado, lo que dificulta trazar la línea entre la competencia legítima y la extracción ilegal.
Problemas de confianza de los desarrolladores
El código en la nube requiere un acceso profundo al sistema de archivos local del desarrollador para leer, modificar y ejecutar el código, lo que significa que cualquier funcionalidad oculta en la herramienta puede acceder de manera efectiva a todo lo que hay en la máquina. Huorong Security, una empresa china de ciberseguridad, dijo que el seguimiento de Anthropic planteaba no sólo una cuestión de transparencia sino también preocupaciones sobre el cumplimiento de datos transfronterizos.
"Hoy es una verificación de zona horaria, mañana podría ser un sabotaje del sistema o una eliminación de datos." escribió un usuario de Reddit. La política de privacidad de Anthropic establece que recopila los datos en cuestión, pero los críticos argumentan que el método esteganográfico, diseñado para ser invisible para los usuarios, cruza una línea que no revela una privacidad ideal.
Imagen más grande
El episodio acelera la presión de China para reducir su dependencia de los equipos de inteligencia artificial estadounidenses, que las empresas chinas soportan cada vez más riesgos legales, operativos y de seguridad. Alibaba ha estado construyendo agresivamente su propia pila de IA, integrando sus modelos QQ en productos que van desde el comercio electrónico hasta la robótica, y la prohibición del código en la nube le ha dado una mayor justificación para impulsar a los trabajadores hacia alternativas nacionales.
Lizzie Li, miembro del Centro de Análisis de China del Asia Society Policy Institute, dijo que el conflicto muestra cómo la competencia de IA entre Estados Unidos y China ha ido más allá de la tecnología para alcanzar el control de acceso y la soberanía. "Si una herramienta de codificación de IA estadounidense puede detectar el uso o el acceso proxy de los chinos, no es sorprendente que las grandes empresas tecnológicas chinas no quieran que sus empleados la utilicen internamente." ella dijo.
Los modelos de Anthropic han sido oficialmente inaccesibles en China durante mucho tiempo, pero siguen siendo populares entre los desarrolladores nacionales que utilizan la solución para mantener el acceso. Si el debate sobre el rastreo empuja a muchos de ellos hacia alternativas chinas o los riesgos de depender de herramientas de inteligencia artificial estadounidenses confirma una cuestión que muchos ya sospechan que se extiende más allá de Alibaba.
