OpenAI incorpora la seguridad a la investigación como una salida de seguridad central
El jefe de sistemas de seguridad de OpenAI, Johannes Heideke, dejará la empresa luego de una reorganización interna que consolida sus equipos de seguridad e investigación bajo un solo líder, informó Wired el viernes. El director de investigación, Mark Chen, dijo al personal en un memorando que los equipos de seguridad ahora dependerán de Mia Glace, cuyo título se ha ampliado a vicepresidente de investigación y seguridad, un puesto recién creado.
Sachi Jain ha sido designado jefe interino de seguridad mientras la empresa busca un reemplazo permanente para Haydeck. Esta es la segunda vez en menos de dos años que OpenAI integra su organización de seguridad en una estructura que informa sobre el liderazgo en investigación.
Duración de HiDec
Heidecke se unió a OpenAI en 2021 como analista de seguridad de IA y sucedió a Lilian Weng en 2024 a cargo de los sistemas de seguridad. Su trabajo abarca la alineación de modelos, los sistemas de recompensa basados en reglas y la evaluación de la preparación de la empresa para capacidades de modelos potencialmente peligrosas.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
Chen agradeció a Heideke en su nota a los empleados y dijo: "Es importante que nuestro trabajo de seguridad se integre con el desarrollo de modelos de vanguardia, con un papel más temprano y más directo en la configuración de decisiones clave sobre modelos, productos y lanzamientos". Heideke es el último de una serie de altos cargos de seguridad en abandonar o reestructurar la empresa en los últimos dos años.
Un patrón de disoluciones
El equipo SuperAlignment de OpenAI, anunciado con un compromiso del 20% de la computación de la compañía para 2023, se disolvió en mayo de 2024 después de que sus codirectores Ilya Sutskever y Jan Leicke partieran. Lake escribió públicamente que "la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes".
El AGI Readiness Team hizo lo mismo en octubre de 2024 cuando su líder Miles Brundage renunció; El grupo Mission Alignment, sucesor de SuperAlignment, se disolvió en febrero de 2026 después de 16 meses, y su líder Joshua Achiam recibió el título de "Jefe Futurista". En abril, OpenAI perdió a su jefe de producto, jefe de Sora y su CTO empresarial en un día.
La partida de Heydeck se produce cuando más líderes de alto nivel se van. Fidzi Simo, jefe de aplicaciones de OpenAI, renunció este mes, citando una recuperación médica prolongada.
El caso de la integración
El título ampliado de Glaese indica que OpenAI quiere que la seguridad siga siendo una prioridad también bajo el nuevo marco. La compañía lanzó una beca de seguridad el 6 de abril, invitando a investigadores externos a realizar trabajos independientes de seguridad y alineación en el laboratorio.
El razonamiento declarado por Chen es que incorporar la seguridad dentro de la investigación le da un lugar en las decisiones del modelo desde el principio, en lugar de ser un punto de control final antes del lanzamiento. Los críticos argumentan que un equipo de seguridad que informa internamente sobre la investigación tiene menos independencia estructural y menos influencia para retrasar o bloquear un producto, que informa por separado.
presión externa
La salida se produce mientras OpenAI navega por un escrutinio externo cada vez más intenso. Cuarenta y dos fiscales generales estatales han abierto una investigación sobre la empresa, entregando citaciones sobre publicidad, datos de usuarios y políticas internas poco después de que solicitara una cotización confidencial en el mercado de valores.
Lilian Weng, quien anteriormente ocupó un puesto en sistemas de seguridad en Haydeck, se unió a la startup de inteligencia artificial Thinking Machine Labs, fundada por la ex directora de tecnología de OpenAI, Meera Murati. Desde entonces, Murati ha advertido públicamente que el modelo de gobernanza de la IA va por detrás de la capacidad.
