Un exploit creado por IA y un fallo en el proceso de inicio de sesión permitieron acceder al código interno de OpenAI

Un grupo de ana­lis­tas de la firma de se­gu­ri­dad Hack­tron em­pleó in­te­li­gen­cia ar­ti­fi­cial para crear un ata­que fun­cio­nal con­tra una bi­blio­te­ca en­car­ga­da del pro­ce­sa­mien­to de imá­ge­nes. Esta falla ini­cial se com­bi­nó con un pro­ble­ma pre­sen­te en el me­ca­nis­mo de ini­cio de se­sión de Ope­nAI, lo que per­mi­tió com­pro­me­ter per­fi­les de em­plea­dos en he­rra­mien­tas como ChatGPT y Codex, y pos­te­rior­men­te in­gre­sar a re­po­si­to­rios de có­di­go in­terno de la com­pa­ñía.

El ac­ce­so ini­cial se ori­gi­nó en el foro co­mu­ni­ta­rio de Ope­nAI, el cual opera me­dian­te la pla­ta­for­ma Dis­cour­se. Como dicha he­rra­mien­ta ca­re­cía de com­pa­ti­bi­li­dad na­ti­va con un for­ma­to es­pe­cí­fi­co de fo­to­gra­fía, las imá­ge­nes car­ga­das eran de­ri­va­das a Ima­ge­Ma­gick, lo que dejó al des­cu­bier­to una vul­ne­ra­bi­li­dad que no había sido par­chea­da en la bi­blio­te­ca en­car­ga­da de la de­co­di­fi­ca­ción. El fallo sub­ya­cen­te ya había re­ci­bi­do una co­rrec­ción pre­via en su ori­gen, pero al no ser cla­si­fi­ca­do como un pro­ble­ma de se­gu­ri­dad, no con­ta­ba con un iden­ti­fi­ca­dor ofi­cial ni había se­gui­do el pro­ce­so ha­bi­tual de ac­tua­li­za­ción.

Para lo­grar un ex­ploit efec­ti­vo que per­mi­tie­ra la eje­cu­ción re­mo­ta de có­di­go, los in­ves­ti­ga­do­res uti­li­za­ron mo­de­los avan­za­dos tras va­rios in­ten­tos. Esta bre­cha fa­ci­li­tó vul­ne­rar pri­me­ro un en­torno de prue­ba y luego el foro ofi­cial de la or­ga­ni­za­ción. Dado que la pla­ta­for­ma per­mi­tía au­ten­ti­car­se con cre­den­cia­les de Ope­nAI, el ac­ce­so al có­di­go abrió la puer­ta para com­pro­me­ter cuen­tas de usua­rios y tra­ba­ja­do­res, ex­ten­dien­do el ries­go teó­ri­co a pla­ta­for­mas ex­ter­nas vin­cu­la­das como co­rreo elec­tró­ni­co, Slack o GitHub.