Sanciones a la IA: penalizar a los trabajadores por utilizar la IA de forma deshonesta
Las empresas están ordenando a los trabajadores que se apoyen en la IA y luego entregan el crédito a las máquinas. Los investigadores lo llaman la penalización de la IA y los trabajadores dicen que les está costando ascensos y aumentos.
Aubrey pasó más de un año en un proyecto para acelerar un costoso proceso de fabricación médica. Cuando terminó, su gerente le pidió que se presentara ante la alta dirección como si Claude, el chatbot de IA, hubiera hecho el trabajo. Se comprometió y dejó en claro mientras hablaba con el robot que él llevaba la carga.
Su gerente intervino de todos modos y le dijo a la sala que construyó todo en menos de un minuto con IA. Semanas más tarde, su revisión anual resultó acalorada y su jefe admitió que el momento jugaba en su contra.
No está solo, como informa Shubham Aggarwal de Business Insider. Deepak, un desarrollador de TI en una empresa Fortune 500 en India, comenzó a dar crédito públicamente a los agentes de codificación que usaba en nombre de la transparencia. Al poco tiempo, sus gerentes habían asumido que todo su buen trabajo estaba hecho a máquina, y sintió que eso había paralizado su ascenso.
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
Muchos trabajadores administrativos ahora están atrapados entre jefes que exigen más IA y jefes que dejan de usar a sus usuarios. Entonces empiezan a ocultar su inclinación hacia ello.
penalización de IA
La tendencia a ocultarlo es razonable. Christoph Riedl, profesor de la Universidad Northeastern, realizó un metanálisis de 13 estudios sobre muchos puestos de trabajo y encontró un patrón claro. Cuando el personal reconoció que un chatbot ayudó, los gerentes constantemente pospusieron el trabajo, asumiendo que la máquina hacía la mayor parte del trabajo. Riddle llama a esto la "penalización de IA".
Descubrió que la principal forma de evitar esto es mantener el control de la tarea principal y explicar exactamente lo que se hizo. En un mercado laboral que ya está perturbado por la automatización, eso es difícil cuando los empleadores siempre encuentran formas más directas de analizar el uso de la IA.
No se puede medir la creatividad en tokens
La medida más contundente es el token, la unidad básica que procesa un modelo de IA.
El recuento de tokens le dice al administrador con qué frecuencia alguien solicitó un chatbot y cuánto texto se movió de un lado a otro. No revela nada sobre lo que realmente contribuyó la IA. Los empleados pronto aprendieron a jugarlo, haciendo caso omiso de preguntas inútiles que parecían usuarios avanzados, por lo que ahora las empresas lo controlan.
El mes pasado, Amazon canceló una tabla de clasificación interna que clasificaba el uso de tokens. "Por favor, no utilicen la IA sólo por utilizarla", dijo Dave Treadwell, vicepresidente senior, en una reunión de la empresa.
Incluso las herramientas delicadas resultan confusas. Los asistentes de codificación como Claude Code tienen una línea de coautor que sella el código que ayudan a escribir. No señalaron qué líneas tenían ni qué tamaño tenían las personas.
"Si el uso de la IA se revela sin detalles específicos sobre cómo se usó, la suposición predeterminada del gerente parece ser que se usó de una manera que disminuye la agencia", dice Riddle. En pocas palabras, los jefes asumen que los robots están a cargo. Entonces cómo, añade, es muy importante.
La herramienta está intentando arreglarlo.
Algunos investigadores están intentando precisar la división entre humanos y máquinas. Graham Newbig, científico informático de la Universidad Carnegie Mellon, cofundó OpenHands. La plataforma de codificación de código abierto toma notas a pie de página de cualquier línea que escribe una IA, para que los revisores sepan revisarla.
Un equipo de IBM ha ido aún más lejos con un conjunto de herramientas de atribución de IA, basado en el sistema que utilizan los científicos para dar crédito a cada autor de un artículo. Permite a las personas registrar cuánto ha generado un chatbot y qué ha probado un humano, luego genera una declaración de atribución.
El cumplimiento de alto nivel con la IA no es suficiente, dice Jessica Hee, una de sus diseñadoras
La paradoja de la transparencia
El problema profundo es social.
Varios estudios muestran que revelar la IA, incluso honestamente, hace que los colegas confíen menos en usted y lo consideren un vago. Oliver Shielke, profesor de la Universidad de Arizona, encontró lo mismo en su propio trabajo. Lo llama una paradoja: quienes hacen un trabajo honesto pagan por ello. Quiere reglas compartidas sobre el crédito de IA, en lugar de que cada trabajador adivine.
Thomas Prommer, un ejecutivo de ingeniería de Adidas, ha visto que la atribución forzada resulta contraproducente. Sus ingenieros dejaron de recurrir a la IA por completo, dice, "porque no querían anotar a pie de página sus mejores contribuciones como 'escritas por Claude'". En cambio, lo que funcionó fue el logro del resultado, no la herramienta.
La apuesta supera una subida fallida.
A principios de este año, Amazon culpó a los empleados y los despidió por un error cometido por un agente de inteligencia artificial. "El mérito es de la IA, pero es nuestra responsabilidad transmitir su contenido", afirma Deepak Alessio Artufo, director general de la plataforma de aprendizaje Docebo, y sostiene que la atribución común es un marco equivocado.
La verdadera pregunta no es cómo se hizo el trabajo sino si la persona detrás de él puede defenderlo y arreglarlo. Si las empresas continúan castigando a las personas que usan la IA honestamente, advierte, obtendrán más producción y menos propiedad. Esto, afirma, es "una regresión de capacidades organizada como habilidad".
