Vibe-Exploiting Discourse para hackear OpenAI con Claude Opus

Un grupo de in­ves­ti­ga­do­res logró ob­te­ner una re­com­pen­sa de Ope­nAI por un fallo de se­gu­ri­dad, uti­li­zan­do in­te­li­gen­cia ar­ti­fi­cial para rea­li­zar todo el pro­ce­so. El in­ci­den­te in­vo­lu­cró una vul­ne­ra­bi­li­dad en una li­bre­ría de pro­ce­sa­mien­to de imá­ge­nes em­plea­da por el soft­wa­re de Dis­cour­se que uti­li­za­ba el foro de la com­pa­ñía, la cual pre­sen­ta­ba un fallo co­no­ci­do pero con un par­che in­co­rrec­to en el sis­te­ma.

Para lle­var a cabo el ata­que, los in­ves­ti­ga­do­res em­plea­ron un mo­de­lo de in­te­li­gen­cia ar­ti­fi­cial para bus­car imá­ge­nes y ana­li­zar la li­bre­ría vul­ne­ra­ble, lo­gran­do de­sa­rro­llar ini­cial­men­te un ex­ploit bá­si­co. Al ac­tua­li­zar a una ver­sión pos­te­rior del mo­de­lo y eje­cu­tar­lo de forma au­tó­no­ma en un bucle, con­si­guie­ron su­pe­rar la pro­tec­ción de me­mo­ria de alea­to­ri­za­ción y al­can­zar la eje­cu­ción re­mo­ta de có­di­go en el con­te­ne­dor.

Dado que el sis­te­ma es­ta­ba in­te­gra­do con las cuen­tas del per­so­nal, el ac­ce­so ob­te­ni­do per­mi­tió su­plan­tar iden­ti­da­des de em­plea­dos de la em­pre­sa. Esto fa­ci­li­tó el in­gre­so a he­rra­mien­tas de tra­ba­jo y a los re­po­si­to­rios en­la­za­dos a di­chas cuen­tas, re­fle­jan­do un cam­bio pro­fun­do en las me­to­do­lo­gías ac­tua­les de bús­que­da de fa­llos in­for­má­ti­cos.