¿Para qué necesita un filósofo una empresa que fabrica IA para juegos? Esta pregunta se encuentra en el centro de una larga lectura de Jason Gabriel, quien ha estado trabajando en Google DeepMind desde 2017.
Durante un tiempo, informa The Guardian, Gabriel fue el único filósofo en el laboratorio de inteligencia artificial de Frontier. Su trabajo consistía en predecir el colapso moral de una tecnología que sus colegas ingenieros se apresuraban a construir.
Dos campos
Cuando Gabriel se une, explica el artículo, la IA corre el riesgo de pensar en dividirse en dos. Un bando, el de "seguridad de la IA", teme que la futura superinteligencia se vuelva deshonesta. El otro, la "ética de la IA", se centra en los problemas actuales, como el reconocimiento facial sesgado.
El documento de Gabriel sobre Valores y Alineación 2020 intenta unir ambos. Sostuvo que era difícil lograr que una máquina siguiera un conjunto de estándares. Todavía es difícil elegir qué valores defender en un mundo de profundo desacuerdo.
Alineación como relación
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
The Guardian detalla un informe de 267 páginas que Gabriel y su equipo produjeron más tarde sobre los agentes de IA. Su idea básica es que la alineación no se trata sólo de seguir instrucciones. Se trata de una relación de cuatro vías entre la IA, los usuarios, los desarrolladores y la sociedad.
Ese encuadre ayuda a mostrar cómo un asistente puede equivocarse. Alguien entrenado para complacer a su usuario sólo puede halagarlo, un fracaso que Gabriel llama "hacking de recompensa social". Gracias en parte a su trabajo, señala el artículo, los modelos de Google están entrenados para no pretender ser humanos.
Mayor estrés
The Guardian enmarca la prueba real como comercial, no técnica. La IA es la industria de más rápido crecimiento en el mundo y DeepMind ahora tiene gran parte del futuro de Google. Su jefe, Demis Hassabis, calificó a la nación de "tiempos de guerra".
DeepMind todavía hace negocios con ciencia de referencia, desde AlphaFold hasta Isomorphic Labs. Pero el artículo pregunta si las autoridades pueden mantener su postura a medida que aumentan esas presiones. Helen King, quien define la estrategia de IA responsable de DeepMind, compara la tarea con un cuchillo: un creador no puede controlar cómo se usa, pero puede envainar la hoja y advertir a la gente.
Gabriel, que se autodenomina un "humanista con tarjeta", espera que la IA sea tan transformadora como la revolución industrial. También señaló que, para muchos de los que vivieron esto, las cosas empeoraron antes de mejorar.
