El evaluador de modelos de IA METR, víctima de un robo de credenciales; se está investigando el caso

Una or­ga­ni­za­ción sin fines de lucro de­di­ca­da a eva­luar los ries­gos en mo­de­los de in­te­li­gen­cia ar­ti­fi­cial avan­za­dos in­for­mó sobre dos in­ci­den­tes de ci­ber­se­gu­ri­dad ocu­rri­dos en los que fue blan­co de ata­can­tes. El pri­me­ro de ellos se pro­du­jo cuan­do ci­ber­de­lin­cuen­tes ro­ba­ron una llave de in­ter­faz de pro­gra­ma­ción de apli­ca­cio­nes des­ti­na­da a mo­de­los pú­bli­cos, lo­gran­do man­te­ner ac­ce­so a un sis­te­ma y con­su­mir una can­ti­dad ma­si­va de cré­di­tos gra­tui­tos en mo­de­los pú­bli­cos de in­te­li­gen­cia ar­ti­fi­cial. En el se­gun­do even­to, re­gis­tra­do pos­te­rior­men­te, la in­fra­es­truc­tu­ra ac­ce­si­ble al pú­bli­co fue ex­plo­ra­da por ata­can­tes que in­ten­ta­ron, sin éxito, lle­gar a datos in­ter­nos me­dian­te un punto de ac­ce­so ex­pues­to por error.

El in­ci­den­te ini­cial co­men­zó cuan­do un in­ves­ti­ga­dor uti­li­zó una ins­tan­cia per­so­nal en la nube me­dian­te una he­rra­mien­ta de or­ga­ni­za­ción que con­te­nía una falla de au­ten­ti­ca­ción, de­jan­do el sis­te­ma ex­pues­to en in­ter­net du­ran­te va­rios días. Los ata­can­tes lo­ca­li­za­ron dicha ins­tan­cia, ob­tu­vie­ron la llave de ac­ce­so men­cio­na­da, agre­ga­ron cre­den­cia­les para man­te­ner el ac­ce­so y uti­li­za­ron los datos sus­traí­dos du­ran­te se­ma­nas para con­su­mir una im­por­tan­te suma de cré­di­tos eco­nó­mi­cos en ser­vi­cios de in­te­li­gen­cia ar­ti­fi­cial. Como res­pues­ta, la en­ti­dad re­vo­có ac­ce­sos, re­no­vó cre­den­cia­les, reali­zó aná­li­sis fo­ren­ses y en­du­re­ció sus po­lí­ti­cas de des­plie­gue in­terno.

Du­ran­te la se­gun­da cam­pa­ña ma­li­cio­sa, la cual in­clu­yó di­ver­sas téc­ni­cas au­to­ma­ti­za­das de re­co­no­ci­mien­to y des­cu­bri­mien­to de vul­ne­ra­bi­li­da­des, la or­ga­ni­za­ción dejó ex­pues­to un me­ca­nis­mo de con­sul­ta que po­dría haber per­mi­ti­do el ac­ce­so a in­for­ma­ción de eva­lua­ción no pu­bli­ca­da. Un in­ves­ti­ga­dor in­de­pen­dien­te des­cu­brió este fallo y lo re­por­tó de forma res­pon­sa­ble, lo que llevó a la com­pa­ñía a des­ac­ti­var la in­ter­faz afec­ta­da y otor­gar una re­com­pen­sa. La or­ga­ni­za­ción ase­gu­ró que no exis­ten in­di­cios de que los ata­can­tes hayan des­cu­bier­to dicho fallo ni de que hayan lo­gra­do ac­ce­der a in­for­ma­ción con­fi­den­cial.