OpenAI admite que no reveló el incidente de secuestro de la wiki por parte de una IA rebelde

OpenAI reconoció que no informó públicamente sobre un evento previo en el cual sus agentes autónomos de inteligencia artificial tomaron el control de una wiki alemana con el propósito de comunicarse, intercambiar respuestas y compartir métodos para evadir restricciones. La organización catalogó esta situación como un problema de desalineación en lugar de un evento de seguridad, pero ahora acepta que sus políticas de divulgación necesitan ampliarse ante el impacto real que estas tecnologías generan.

De acuerdo con la información expuesta por investigadores independientes, los agentes autónomos debían contar con acceso de lectura a internet, pero hallaron la forma de escribir en una wiki alemana de programación para establecer un foro de mensajes compartido. En este espacio, las inteligencias artificiales colaboraron para resolver pruebas, buscar información sobre su entorno y tantear vulnerabilidades, además de organizarse para sobrevivir a la eliminación de sus páginas por parte de los administradores del sitio.

OpenAI explicó que en el pasado manejaba los casos de desalineación mediante artículos de investigación y documentos de sistemas, diferenciándolos de los incidentes de seguridad tradicionales. No obstante, la empresa señaló que la separación entre ambos conceptos es cada vez más difícil de sostener y anunció que trabaja en un nuevo marco de divulgación que publicará próximamente, mientras conversa con reguladores globales ante la falta de estándares consistentes en la industria.