La gente graba cada conversación con herramientas de inteligencia artificial y nadie ha dado su consentimiento

Un número cada vez mayor de profesionales está empezando a utilizar herramientas de inteligencia artificial para grabar cada una de sus conversaciones, y quienes están siendo grabados generalmente no tienen idea de lo que está sucediendo. El Wall Street Journal informó esta semana que aplicaciones como Granola, que transcriben reuniones sin desplegar un robot visible ni anunciar su presencia, han hecho que la grabación ambiental sea tan sencilla que los usuarios ahora están sacando la tecnología de la sala de conferencias a entornos privados. Este cambio plantea cuestiones legales y éticas que ni las herramientas ni sus usuarios están preparados para responder.

Granola, que recaudó 125 millones de dólares con una valoración de 1.500 millones de dólares a principios de este año, funciona grabando audio directamente a través del micrófono del dispositivo del usuario, en lugar de unirse a una llamada como participante individual. Esto significa que no aparecen íconos de bots en las reuniones ni mensajes automáticos que indiquen a los asistentes que están siendo grabados. Michelle Lim, directora ejecutiva de la empresa de software para reuniones Flint, dijo al Journal que quiere que haya granola en cada habitación a la que entre, una declaración que capta tanto el atractivo como el problema.

Algunos usuarios han llevado la idea más allá del lugar de trabajo, y la fundadora de Yuzu Labs, Amy Chang, le dijo al Journal que registra las primeras citas y envía transcripciones a Claude para recibir comentarios sobre cómo fue la conversación. Otros describieron grabar sesiones de terapia, visitas al médico y cenas informales con amigos, todo sin decírselo a la otra persona. En once estados de EE. UU. que requieren el consentimiento de todas las partes para la grabación, incluidos California, Florida, Illinois y Pensilvania, hacerlo sin divulgación es un delito potencial según las leyes estatales sobre escuchas telefónicas.

💜 de tecnología de la UE

Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!

El impacto en el lugar de trabajo ya se está notando. Amy Dufresne, directora ejecutiva del Instituto de Certificación de Recursos Humanos, dijo a The Associated Press que los tomadores de notas de IA plantean enormes riesgos organizacionales, argumentando que las empresas no deberían usarlos en absoluto. Han surgido informes sobre tomadores de notas de IA en videollamadas después de que los empleados se van, documentando silenciosamente conversaciones informales y chismes, y el experto en leyes de privacidad Alex Alban advierte que la grabación automatizada que involucra a terceros crea responsabilidades que la mayoría de los usuarios no han considerado.

Los investigadores plantearon otra preocupación que va más allá de la privacidad: los estudios sobre la descarga cognitiva encontraron una correlación negativa entre el uso intensivo de la IA y el pensamiento crítico. La preocupación no es que las personas estén grabando sin consentimiento, sino que ellas mismas estén perdiendo la capacidad de escuchar, recordar y procesar la conversación. A medida que estas herramientas se vuelven más baratas y más invisibles, la pregunta ya no es si se extenderán sino si alguien se molestará en pedir permiso en primer lugar.