Los coches autónomos son peores a la hora de detectar niños peatones, según un estudio
La IA tiene un notorio historial de prejuicios, desde sistemas de reconocimiento facial que identifican erróneamente a los negros hasta chatbots que elogian a Hitler. En algunos entornos, los resultados pueden ser fatales.
Esta semana se ha descubierto un ejemplo de ello. Según una nueva investigación, se utilizan sistemas de detección de peatones Investigación de vehículos autónomos Existen importantes sesgos de edad y raza.
La investigación añade otro obstáculo al despliegue de los coches sin conductor. También descubre un preocupante potencial añadido a la seguridad vial.
Hallazgos de una revisión sistemática de ocho sistemas populares de detección de peatones. Investigadores del King’s College London (KCL) probaron el software en más de 8.000 imágenes de peatones.
<3 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
Descubrieron que la precisión de detección promedio era aproximadamente un 20% mayor en adultos que en niños. Los sistemas fueron un 7,5% más precisos para los peatones de piel clara que para los de piel oscura.
Estas inconsistencias se deben a una causa común del sesgo de la IA: datos de entrenamiento no representativos.
“Hay un viejo dicho en ingeniería y ciencias de la información: 'Basura entra, basura sale'. Los sistemas de IA deben entrenarse con una gran cantidad de datos de entrenamiento, y las deficiencias en esos datos se reflejan inevitablemente en la IA", dijo a TNW el Dr. Ji Zhang, profesor de informática en KCL.
"En este caso, las galerías de imágenes de código abierto utilizadas para entrenar estos sistemas de detección de peatones no son representativas de todos los peatones y están sesgadas hacia los adultos de piel clara. Con menos datos para entrenar, la IA se vuelve menos precisa al identificar grupos subrepresentados".
Otro problema surgió en las condiciones de iluminación. En condiciones de bajo contraste y baja luminosidad, se exacerbó el sesgo hacia los niños y las personas de piel oscura. Esto sugiere que ambos grupos tienen un mayor riesgo al conducir de noche.
Si bien los fabricantes de automóviles no revelan detalles sobre su software de detección de peatones, generalmente se basan en los mismos sistemas de código abierto utilizados en la investigación. Zhang Tai confía en que ellos experimentan los mismos problemas.
Para reducir el riesgo, quiere más transparencia y regulaciones más estrictas sobre los sistemas de detección de peatones.
"Los desarrolladores deberían empezar a ser más transparentes sobre cuándo se entrenan sus sistemas de detección, así como sobre cómo funcionan, para que puedan medirse objetivamente; las consecuencias de no hacerlo pueden ser nefastas", afirmó.
"Pero además, los fabricantes deben trabajar para garantizar que sus sistemas de IA sean justos y representativos, y parte del impulso para ello provendrá de los responsables políticos y de controles más estrictos sobre la equidad en la IA".
Puedes leer el trabajo de estudio aquí.
