Google a las organizaciones de infraestructuras críticas: Nuestros escáneres de IA no harán daño, lo prometemos

Goo­gle se ha su­ma­do a la ten­den­cia de la de­fen­sa ba­sa­da en IA para sis­te­mas crí­ti­cos con su ini­cia­ti­va «Scan for Good», y afir­ma que sus mo­de­los de de­tec­ción de ame­na­zas ya han iden­ti­fi­ca­do de forma au­tó­no­ma pro­ble­mas de se­gu­ri­dad crí­ti­cos en hos­pi­ta­les, un ayun­ta­mien­to, una em­pre­sa fe­rro­via­ria pú­bli­ca y los prin­ci­pa­les pro­vee­do­res de tec­no­lo­gía. Así que no hay que temer a estos bots. La ini­cia­ti­va, anun­cia­da el jue­ves, uti­li­za Ge­mi­ni 3.8 Flash Cyber de Goo­gle —una ver­sión del mo­de­lo op­ti­mi­za­da para la de­tec­ción y co­rrec­ción de erro­res de soft­wa­re— y Red Agent de Wiz, el agen­te de IA para prue­bas de pe­ne­tra­ción de esta em­pre­sa de se­gu­ri­dad en la nube pro­pie­dad de Goo­gle. Los sis­te­mas de IA de­tec­ta­rán vul­ne­ra­bi­li­da­des pú­bli­cas y vías de ata­que en ser­vi­cios pú­bli­cos, in­fra­es­truc­tu­ras crí­ti­cas y or­ga­ni­za­cio­nes sin ánimo de lucro, y pos­te­rior­men­te las re­mi­ti­rán a in­ves­ti­ga­do­res de se­gu­ri­dad hu­ma­nos para su ve­ri­fi­ca­ción y co­rrec­ción. «El pro­gra­ma lleva ac­ti­vo va­rios meses y, con este lan­za­mien­to ofi­cial, lo es­ta­mos am­plian­do a es­ca­la mun­dial», de­cla­ró Gal Nagli, res­pon­sa­ble de se­gu­ri­dad ofen­si­va de Wiz, a The Re­gis­ter. «No hay una fecha de fi­na­li­za­ción fi­ja­da». Es si­mi­lar a la ini­cia­ti­va «Day­break for Frontli­ne De­fen­ders» de Ope­nAI, anun­cia­da a prin­ci­pios de este mes. Este pro­gra­ma dis­tri­bui­rá 1 000 mi­llo­nes de dó­la­res en cré­di­tos para sub­ven­cio­nar el ac­ce­so a los ser­vi­cios y la for­ma­ción de Ope­nAI des­ti­na­dos a de­fen­so­res ci­ber­né­ti­cos con es­ca­sos re­cur­sos, in­clui­dos aque­llos que pro­te­gen sis­te­mas de agua y ener­gía, ban­cos co­mu­ni­ta­rios, ad­mi­nis­tra­cio­nes lo­ca­les, or­ga­ni­za­cio­nes sin ánimo de lucro y pro­yec­tos de có­di­go abier­to. Y al igual que el nuevo pro­gra­ma de Ope­nAI, la co­la­bo­ra­ción entre Wiz y Goo­gle Deep­Mind se pro­du­ce tras re­ve­lar­se que los agen­tes de IA de Goo­gle tam­bién se es­ca­pa­ron de sus en­tor­nos de prue­bas y pi­ra­tea­ron las pá­gi­nas web de otras em­pre­sas —al igual que hi­cie­ron los agen­tes de­sa­rro­lla­dos por Ope­nAI, Anth­ro­pic y Meta, y esos son solo los que co­no­ce­mos—. Esto se pro­du­ce ade­más en un mo­men­to en que el temor exis­ten­cial a que la IA acabe con toda la hu­ma­ni­dad al­can­za su punto ál­gi­do. «IA para el bien (no para el mal)»: Scan for Good tiene como ob­je­ti­vo dar un uso be­né­fi­co —y no ma­lin­ten­cio­na­do— a los agen­tes de se­gu­ri­dad ofen­si­vos y a Ge­mi­ni 3.8 Flash Cyber. Cuan­do se les au­to­ri­ce —ya sea de forma ex­plí­ci­ta por parte de las or­ga­ni­za­cio­nes que so­li­ci­ten una eva­lua­ción o en el marco de los pro­gra­mas de re­com­pen­sa por erro­res y las po­lí­ti­cas de di­vul­ga­ción de vul­ne­ra­bi­li­da­des apli­ca­bles—, las IA exa­mi­na­rán si­tios web, API y apli­ca­cio­nes de ac­ce­so pú­bli­co en busca de vul­ne­ra­bi­li­da­des y, a con­ti­nua­ción, co­la­bo­ra­rán con las or­ga­ni­za­cio­nes para de­tec­tar­las y so­lu­cio­nar­las. Cada po­si­ble ha­llaz­go será re­vi­sa­do y va­li­da­do por un ser hu­mano, y Wiz ase­gu­ra que «los seres hu­ma­nos se­gui­rán sien­do res­pon­sa­bles de con­fir­mar el im­pac­to y de tomar las de­ci­sio­nes sobre la di­vul­ga­ción». Cuan­do los bots y los hu­ma­nos iden­ti­fi­quen un pro­ble­ma grave, estos se pon­drán en con­tac­to con la or­ga­ni­za­ción afec­ta­da y co­la­bo­ra­rán con ella para sub­sa­nar las bre­chas de se­gu­ri­dad. Los sis­te­mas de IA de Goo­gle ya han ayu­da­do a or­ga­ni­za­cio­nes crí­ti­cas y a pro­vee­do­res tec­no­ló­gi­cos a de­tec­tar ries­gos gra­ves re­la­cio­na­dos con In­ter­net, in­clui­da una vul­ne­ra­bi­li­dad crí­ti­ca en el flujo de tra­ba­jo de GitHub Ac­tions en uno de los re­po­si­to­rios pú­bli­cos de Snow­fla­ke. En esta ex­pe­di­ción de bús­que­da de erro­res, lle­va­da a cabo a tra­vés del pro­gra­ma de di­vul­ga­ción de vul­ne­ra­bi­li­da­des Hac­ke­rO­ne de Snow­fla­ke, Red Agent de Wiz iden­ti­fi­có de forma au­tó­no­ma una vul­ne­ra­bi­li­dad de in­yec­ción de scripts en snow­fla­kedb/snow­fla­ke-con­nec­tor-net. La falla per­mi­tía a un usua­rio no au­ten­ti­ca­do eje­cu­tar co­man­dos ar­bi­tra­rios den­tro de un eje­cu­tor de GitHub Ac­tions al abrir un tic­ket de GitHub con un tí­tu­lo es­pe­cial­men­te di­se­ña­do. Wiz re­ve­ló el pro­ble­ma el 23 de junio, y Snow­fla­ke lo so­lu­cio­nó ese mismo día, re­no­vó las cre­den­cia­les afec­ta­das y ve­ri­fi­có, me­dian­te re­gis­tros de au­di­to­ría de­ta­lla­dos, que Wiz había sido el único actor du­ran­te el pe­rio­do de ex­po­si­ción. Ejem­plos del mundo real La em­pre­sa, pro­pie­dad de Goo­gle, pro­por­cio­nó va­rios ejem­plos más de su «IA para el bien» y afir­mó que todos ellos fue­ron des­cu­bier­tos de forma au­tó­no­ma por los mo­de­los antes de que Wiz los va­li­da­ra, pero «solo lo su­fi­cien­te como para con­fir­mar su im­pac­to en el mundo real». En ese mo­men­to, no­ti­fi­ca­ron de forma pri­va­da a la or­ga­ni­za­ción afec­ta­da sobre el pro­ble­ma y la ayu­da­ron a sub­sa­nar la vul­ne­ra­bi­li­dad. Al­gu­nos de estos casos in­clu­yen: una clave de ad­mi­nis­tra­dor ex­pues­ta que per­mi­tía el ac­ce­so de lec­tu­ra, es­cri­tu­ra y eli­mi­na­ción a 8,8 mi­llo­nes de ar­chi­vos en un «ar­chi­vo de im­por­tan­cia na­cio­nal» per­te­ne­cien­te a un país de Orien­te Medio no iden­ti­fi­ca­do. La asig­na­ción del con­jun­to co­rrec­to de per­mi­sos so­lu­cio­nó el fallo.