The vulnerabilities AI finds are the ones attackers want

Un es­tu­dio re­cien­te del Grupo de In­te­li­gen­cia de Ame­na­zas de Goo­gle mues­tra que los ata­can­tes apro­ve­cha­ron una falla de se­gu­ri­dad de­tec­ta­da por un agen­te de in­ves­ti­ga­ción de in­te­li­gen­cia ar­ti­fi­cial pocos días des­pués de que se hi­cie­ra pú­bli­ca, ade­más de re­gis­trar un in­cre­men­to ge­ne­ral en la ex­plo­ta­ción de vul­ne­ra­bi­li­da­des. Du­ran­te el pe­rio­do ana­li­za­do, el nú­me­ro men­sual de CVE di­vul­ga­dos au­men­tó de forma con­si­de­ra­ble, aun­que los casos de ex­plo­ta­ción real en la na­tu­ra­le­za con­ti­núan sien­do poco fre­cuen­tes en pro­por­ción al total.

La in­ves­ti­ga­ción se­ña­la que la mayor parte del in­cre­men­to en la ex­plo­ta­ción pro­vie­ne de vul­ne­ra­bi­li­da­des co­no­ci­das, su­gi­rien­do que los ci­ber­de­lin­cuen­tes em­plean mo­de­los de len­gua­je y he­rra­mien­tas de in­te­li­gen­cia ar­ti­fi­cial para exa­mi­nar rá­pi­da­men­te par­ches, avi­sos y có­di­gos de prue­ba con el fin de con­ver­tir­los en armas de ata­que. Asi­mis­mo, los fa­llos iden­ti­fi­ca­dos por in­te­li­gen­cia ar­ti­fi­cial tien­den a ser más gra­ves y con mayor fre­cuen­cia pro­vo­can eje­cu­ción re­mo­ta de có­di­go en com­pa­ra­ción con los de­tec­ta­dos por otros mé­to­dos.

El in­for­me de­ta­lla un caso es­pe­cí­fi­co donde ata­can­tes uti­li­za­ron con ra­pi­dez una vul­ne­ra­bi­li­dad de in­yec­ción de co­man­dos en un pro­duc­to de Be­yond­Trust des­cu­bier­ta por un agen­te de IA, lo­gran­do es­ca­lar pri­vi­le­gios y des­ple­gar dis­tin­tas car­gas ma­li­cio­sas. Pa­ra­le­la­men­te, los pro­gra­mas de soft­wa­re re­la­cio­na­dos con la in­te­li­gen­cia ar­ti­fi­cial tam­bién con­cen­tran miles de vul­ne­ra­bi­li­da­des re­por­ta­das, afec­tan­do es­pe­cial­men­te a mar­cos de tra­ba­jo para la or­ques­ta­ción de agen­tes y a sis­te­mas de in­fe­ren­cia.

Ante este es­ce­na­rio, los in­ves­ti­ga­do­res re­co­mien­dan que las em­pre­sas dejen de lado la apli­ca­ción ma­si­va y des­or­ga­ni­za­da de par­ches, op­tan­do por una prio­ri­za­ción ba­sa­da en in­te­li­gen­cia de ame­na­zas que com­bi­ne de­fen­sas pe­ri­me­tra­les es­pe­cí­fi­cas con una co­rrec­ción au­to­ma­ti­za­da me­dian­te agen­tes.