Meta CTO dice que los datos de seguimiento de empleados van "a donde no se suponía que debían ir"
El director de tecnología de Matter aún no ha dado todos los detalles del percance que obligó a la compañía a detener su proyecto de IA más controvertido, un esquema de registro de pulsaciones de teclas llamado Iniciativa de Capacidades Modelo.
Andrew Bosworth dijo que un investigador movió datos confidenciales de los empleados a un lugar en el que nunca estuvo destinado, aunque insistió en que no hubo intrusión externa.
En una entrevista publicada el miércoles con el director ejecutivo de The Atlantic, Nicholas Thompson, y filmada a finales de junio, Bosworth describió los datos como "bastante seguros", y sólo unas pocas personas podían acceder a ellos. Dijo que el problema venía de dentro.
Es el último giro en una historia que ha pasado del software de seguimiento en las computadoras portátiles del personal a una pausa en toda la empresa.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
"Un investigador que estaba trabajando con los datos y no hubo violación, pero los puso donde no debían ir". Bosworth le dijo a Thompson.
La información, en un estado metamorfoseado, "aterrizó en algún lugar donde no debería haber aterrizado internamente", añadió, diciendo que Meta no sospechaba que hubiera habido juego sucio.
Dijo que la empresa "cerró todo" hasta que pudiera establecer lo sucedido. Según capturas de pantalla vistas por Business Insider, el programa Meta se tomó un descanso después de que se filtraran datos confidenciales de los empleados en toda la organización.
La Iniciativa de Capacidad Modelo se lanzó en abril. Esto implicó instalar un software para registrar las pulsaciones de teclas y los movimientos del mouse de la mayoría de los empleados de Meta en EE. UU., la materia prima para entrenar los modelos de inteligencia artificial de la compañía. La insistencia de Mater en que los trabajadores no podían optar por no participar provocó una furiosa reacción.
"Hemos diseñado cuidadosamente este programa teniendo en cuenta la protección de la privacidad, y aunque no tenemos indicios en este momento de que el personal de Meta haya accedido indebidamente a algún dato, lo estamos pausando mientras investigamos". Un portavoz de Meta dijo a Business Insider en junio.
La compañía se negó a hacer más comentarios para realizar un seguimiento.
La iniciativa llega en un momento traumático para los trabajadores. El propio Bosworth dijo durante una reunión interna que la moral del personal estaba alta. "Probablemente uno de los peores de todos los tiempos" En las dos décadas de historia de Meta, los despidos y un fuerte giro hacia la IA han desestabilizado la fuerza laboral.
La resistencia al rastreo fue inmediata y organizada. Más de 1.600 empleados han firmado una petición contra el software y, según se informa, una oficina lo ha denominado "fábrica de extracción de datos de los empleados".
Los defensores de la privacidad advirtieron por separado que la herramienta corría el riesgo de recopilar datos sobre los trabajadores europeos que podrían entrar en conflicto con el RGPD.
En la entrevista, Bosworth sugirió una segunda razón por la que el proyecto fracasó, una que tiene sus raíces en la ciencia más que en la política. El plan estaba recopilando demasiado de lo mismo, dijo, cuando lo que un modelo de IA realmente necesita es variedad.
"La variación es mucho más importante que un gran volumen de lo mismo desglosado básicamente en un solo caso", le dijo a Thompson.
Esa comprensión llevó a Meta a ampliar las opciones de exclusión que inicialmente bloqueó, dijo.
"Entonces, unas semanas después de que lo lanzamos inicialmente, agregamos una opción de exclusión extendida para las personas que no querían hacerlo", dijo Bosworth. "Una pausa, una pausa infinita.
Cuando no quieras tenerlo, simplemente presiona pausa." Esto marca un ablandamiento de la política original de no exclusión voluntaria, que Meta anteriormente intentó mitigar con reposiciones de 30 minutos a la vez.
No está claro si el programa volverá a su forma original. Bosworth presentó la pausa como una advertencia en lugar de una retirada, pero el episodio brindó a los críticos dentro y fuera de la empresa un estudio de caso sobre cómo la IA podría convertir a la fuerza laboral en una vigilancia de medición diseñada para alimentarse.
Por ahora, el registro de pulsaciones de teclas está inactivo, la investigación está en curso y el nombre del investigador que estuvo en el centro del accidente no ha sido revelado. Lo que Meta hace con los datos ya recopilados es una pregunta difícil de responder para los CTO.
