Un exploit creado por IA y un fallo en el proceso de inicio de sesión permitieron acceder al código interno de OpenAI

Un grupo de analistas de la firma de seguridad Hacktron empleó inteligencia artificial para crear un ataque funcional contra una biblioteca encargada del procesamiento de imágenes. Esta falla inicial se combinó con un problema presente en el mecanismo de inicio de sesión de OpenAI, lo que permitió comprometer perfiles de empleados en herramientas como ChatGPT y Codex, y posteriormente ingresar a repositorios de código interno de la compañía.

El acceso inicial se originó en el foro comunitario de OpenAI, el cual opera mediante la plataforma Discourse. Como dicha herramienta carecía de compatibilidad nativa con un formato específico de fotografía, las imágenes cargadas eran derivadas a ImageMagick, lo que dejó al descubierto una vulnerabilidad que no había sido parcheada en la biblioteca encargada de la decodificación. El fallo subyacente ya había recibido una corrección previa en su origen, pero al no ser clasificado como un problema de seguridad, no contaba con un identificador oficial ni había seguido el proceso habitual de actualización.

Para lograr un exploit efectivo que permitiera la ejecución remota de código, los investigadores utilizaron modelos avanzados tras varios intentos. Esta brecha facilitó vulnerar primero un entorno de prueba y luego el foro oficial de la organización. Dado que la plataforma permitía autenticarse con credenciales de OpenAI, el acceso al código abrió la puerta para comprometer cuentas de usuarios y trabajadores, extendiendo el riesgo teórico a plataformas externas vinculadas como correo electrónico, Slack o GitHub.