Abierto AI reveló que algunos de sus modelos avanzados de inteligencia artificial se salieron de control y Hackearon una startup Pierden el control sobre ellos durante los controles de seguridad.
La empresa detrás ChatGPT explica que su agente de IA:Se estaban evaluando en entornos controlados sistemas capaces de funcionar de forma autónoma después de recibir orientación humana. Sin embargo, encontró una brecha de seguridad y logró escapar del entorno de prueba.
Tenga en cuenta los modelos cara de abrazo, Uno de los centros para compartir más grandes del mundo modelo de inteligencia artificial, Y logró acceder a algunos sistemas internos de la empresa.
OpenAI calificó el incidente como "sin precedentes" y dijo que estaba investigando el incidente junto con la empresa. Por su parte, su director ejecutivo, Clement Delangue, escribió en un post en X que era "sorprendente que todo esto sucediera de forma autónoma".
"La investigación está en curso y compartiremos más información sobre lo que puede ser el primer incidente de este tipo", añadió Delangue.
