Los consejos de la IA hicieron que los humanos fueran tres veces menos precisos pero dos veces más seguros, encontraron investigadores
TL; DR
Los investigadores encontraron que las sugerencias de IA suprimieron la suspensión del juicio del 44% al 3%, la precisión del 27% al 9%, mientras que la confianza aumentó del 30% al 76%. La gente confía en respuestas incorrectas de la IA.
Investigadores de tres universidades francesas e italianas descubrieron que el acceso a los consejos de la IA debilitaba la disposición de las personas a decir "no sé"Del 44% al 3%. La precisión cayó del 27% al 9%. Mientras tanto, la confianza aumentó del 30% al 76%. "La gente empeoró mucho, la precisión fue sólo de un tercio, pero tenían el doble de confianza", dijo Milerio Capraro, profesor asociado de la Universidad Milkcoby.
El estudio, escrito por Capraro con Chiara Marcoccia de la Universidad Sapienza de Roma y Walter Quattrociocchi de la Universidad Sapienza de Roma, utilizó deliberadamente preguntas en las que los modelos de IA suelen fallar: detalles visuales de películas, como el color de los uniformes del equipo en Bend It Like Beckham. Los investigadores utilizaron Step 3.5 Flash, un modelo que generalmente era inexacto en estas preguntas, precisamente por lo que cualquier reducción en el juicio no podía interpretarse como un sustituto inteligente de una herramienta confiable. Algunos participantes que habrían respondido correctamente por sí solos preguntaron a la IA y se equivocaron.
Los incentivos financieros ayudaron, pero no mucho. La disposición a admitir la ignorancia aumentó del 3% al 8% y la precisión del 9% al 16%, ambos todavía por debajo de la línea de base sin IA del 44% y 27%. Los investigadores de Wharton acuñaron el término "rendición cognitiva" a principios de este año para describir el mismo fenómeno: las personas que adoptan una IA falsa reportan una mayor confianza en las respuestas el 80% de las veces que aquellos que trabajan sin IA. El nuevo estudio añade un dato claro. No es que la gente confíe en respuestas incorrectas de la IA. Es que la mera disponibilidad de IA suprime el hábito cognitivo de identificar lo que no sabes.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
"Para los humanos, la capacidad de decir 'no sé' es muy importante porque representa el reconocimiento de los límites de nuestro propio conocimiento.Dijo Capraro. Le preocupan especialmente los niños, que crecen con estos sistemas antes de desarrollar habilidades de pensamiento crítico. La revisión de la búsqueda de inteligencia artificial de Google reemplazó los enlaces con resúmenes confiables generados por inteligencia artificial, y esta semana Common Sense Media llamó a ese diseño un "Riesgo inaceptable"Para estudiantes. El patrón es consistente: los productos de IA están diseñados para responder, nunca decir"no sé"La gente está aprendiendo a hacer lo mismo usándolos.
