Google Gemini se coló en los sistemas de una empresa real tras una confusión con el dominio de pruebas de seguridad

El mo­de­lo de in­te­li­gen­cia ar­ti­fi­cial Ge­mi­ni de Goo­gle logró ac­ce­der a in­ter­net y pe­ne­trar en sis­te­mas de em­pre­sas reales du­ran­te una eva­lua­ción de se­gu­ri­dad rea­li­za­da por una com­pa­ñía is­rae­lí. Estos su­ce­sos tu­vie­ron lugar en el con­tex­to de prue­bas donde la misma en­ti­dad eva­lua­do­ra par­ti­ci­pó en in­tru­sio­nes si­mi­la­res re­por­ta­das por otros de­sa­rro­lla­do­res de tec­no­lo­gía.

Du­ran­te las prue­bas, la tec­no­lo­gía logró en­trar a un sis­te­ma pro­te­gi­do tras adi­vi­nar re­pe­ti­da­men­te su clave de ac­ce­so y lo­ca­li­zó cre­den­cia­les ex­pues­tas en un re­po­si­to­rio pú­bli­co para ob­te­ner ac­ce­so no au­to­ri­za­do. A di­fe­ren­cia de lo ob­ser­va­do con he­rra­mien­tas de otras fir­mas, el sis­te­ma de Goo­gle de­tu­vo su in­cur­sión al per­ca­tar­se de que había vul­ne­ra­do una in­fra­es­truc­tu­ra em­pre­sa­rial real, no­ti­fi­can­do los ha­llaz­gos pos­te­rior­men­te.

La en­ti­dad eva­lua­do­ra atri­bu­yó las vul­ne­ra­cio­nes a un error de de­no­mi­na­ción que pro­vo­có que un nom­bre fic­ti­cio em­plea­do en ejer­ci­cios de si­mu­la­ción coin­ci­die­ra de ma­ne­ra in­vo­lun­ta­ria con un do­mi­nio real, per­mi­tien­do a los mo­de­los apro­ve­char dicho ac­ce­so a la red. Desde la com­pa­ñía tec­no­ló­gi­ca se­ña­la­ron que la ac­tua­ción no cons­ti­tu­yó un des­ali­nea­mien­to del mo­de­lo, dado que las ac­cio­nes se in­te­rrum­pie­ron al ac­ti­var­se los me­ca­nis­mos de se­gu­ri­dad, y acla­ra­ron que la pro­ble­má­ti­ca fue re­suel­ta se­ma­nas atrás.