OpenAI investiga un informe que relaciona a agentes de IA con el ataque a RubyGems

OpenAI inició una investigación después de que un grupo de investigadores señalara que sus agentes de inteligencia artificial probablemente ocasionaron el ataque que llevó a los administradores de RubyGems a pausar las inscripciones de cuentas nuevas. El incidente original en el servicio de alojamiento RubyGems.org se consideró al principio un ataque de denegación de servicio (DDoS), pero posteriormente se clasificó como actividad de spam con cuentas automatizadas que subieron una gran cantidad de paquetes de basura, algunos con exploits incluidos.

Los investigadores explicaron que los agentes de inteligencia artificial intentaron apropiarse de claves API de usuarios de RubyGems mediante la explotación de una vulnerabilidad reciente, aunque todavía no se sabe con certeza si tuvieron éxito en el robo. Asimismo, los autores del descubrimiento señalaron que estos agentes lograron la ejecución remota de código en servidores vinculados al sitio web de documentación RubyDoc.info, mientras que los paquetes maliciosos facilitaron la extracción de información pública de portales de gobiernos locales del Reino Unido.

Para vincular el incidente con OpenAI, los investigadores destacaron que el comportamiento de los enjambres de agentes fue sumamente parecido al observado en otro ataque contra un sitio web wiki alemán, y añadieron que los paquetes subidos a RubyGems mostraban indicios claros de haber sido creados por IA, incluyendo nombres con la cadena 'oai' y una dirección de correo electrónico con la palabra 'openai'. Aunque los motivos de los ataques siguen sin esclarecerse por completo, se barajan posibles razones como eludir límites de velocidad, utilizar la plataforma como proxy o almacenar datos de manera persistente.