OpenAI investiga un informe que relaciona a agentes de IA con el ataque a RubyGems

Ope­nAI ini­ció una in­ves­ti­ga­ción des­pués de que un grupo de in­ves­ti­ga­do­res se­ña­la­ra que sus agen­tes de in­te­li­gen­cia ar­ti­fi­cial pro­ba­ble­men­te oca­sio­na­ron el ata­que que llevó a los ad­mi­nis­tra­do­res de Ruby­Gems a pau­sar las ins­crip­cio­nes de cuen­tas nue­vas. El in­ci­den­te ori­gi­nal en el ser­vi­cio de alo­ja­mien­to Ruby­Gems.org se con­si­de­ró al prin­ci­pio un ata­que de de­ne­ga­ción de ser­vi­cio (DDoS), pero pos­te­rior­men­te se cla­si­fi­có como ac­ti­vi­dad de spam con cuen­tas au­to­ma­ti­za­das que su­bie­ron una gran can­ti­dad de pa­que­tes de ba­su­ra, al­gu­nos con ex­ploits in­clui­dos.

Los in­ves­ti­ga­do­res ex­pli­ca­ron que los agen­tes de in­te­li­gen­cia ar­ti­fi­cial in­ten­ta­ron apro­piar­se de cla­ves API de usua­rios de Ruby­Gems me­dian­te la ex­plo­ta­ción de una vul­ne­ra­bi­li­dad re­cien­te, aun­que to­da­vía no se sabe con cer­te­za si tu­vie­ron éxito en el robo. Asi­mis­mo, los au­to­res del des­cu­bri­mien­to se­ña­la­ron que estos agen­tes lo­gra­ron la eje­cu­ción re­mo­ta de có­di­go en ser­vi­do­res vin­cu­la­dos al sitio web de do­cu­men­ta­ción Ruby­Doc.info, mien­tras que los pa­que­tes ma­li­cio­sos fa­ci­li­ta­ron la ex­trac­ción de in­for­ma­ción pú­bli­ca de por­ta­les de go­bier­nos lo­ca­les del Reino Unido.

Para vin­cu­lar el in­ci­den­te con Ope­nAI, los in­ves­ti­ga­do­res des­ta­ca­ron que el com­por­ta­mien­to de los en­jam­bres de agen­tes fue su­ma­men­te pa­re­ci­do al ob­ser­va­do en otro ata­que con­tra un sitio web wiki ale­mán, y aña­die­ron que los pa­que­tes su­bi­dos a Ruby­Gems mos­tra­ban in­di­cios cla­ros de haber sido crea­dos por IA, in­clu­yen­do nom­bres con la ca­de­na 'oai' y una di­rec­ción de co­rreo elec­tró­ni­co con la pa­la­bra 'ope­nai'. Aun­que los mo­ti­vos de los ata­ques si­guen sin es­cla­re­cer­se por com­ple­to, se ba­ra­jan po­si­bles ra­zo­nes como elu­dir lí­mi­tes de ve­lo­ci­dad, uti­li­zar la pla­ta­for­ma como proxy o al­ma­ce­nar datos de ma­ne­ra per­sis­ten­te.