La gobernanza de la IA no puede esperar

Un grupo vin­cu­la­do a Rusia, de­no­mi­na­do UAC-0099, em­pleó una nueva tác­ti­ca lla­ma­da Guard­Brea­ker con­tra un ob­je­ti­vo en Ucra­nia, la cual con­sis­te en al­te­rar el ra­zo­na­mien­to de­fen­si­vo de la in­te­li­gen­cia ar­ti­fi­cial. Los ata­can­tes in­ser­ta­ron texto pro­ble­má­ti­co re­la­cio­na­do con la fa­bri­ca­ción de armas nu­clea­res como co­men­ta­rio den­tro de un script ma­li­cio­so en VBS­cript. El pro­pó­si­to de esta ac­ción fue ac­ti­var los me­ca­nis­mos de se­gu­ri­dad del mo­de­lo de len­gua­je gran­de para im­pe­dir que ana­li­za­ra el resto del có­di­go ma­li­cio­so y lo­grar vul­ne­rar las redes de la víc­ti­ma de ma­ne­ra si­len­cio­sa.

La adop­ción ge­ne­ra­li­za­da de la in­te­li­gen­cia ar­ti­fi­cial está ace­le­ran­do el pa­no­ra­ma de ame­na­zas al in­cre­men­tar tanto la ve­lo­ci­dad como la com­ple­ji­dad de los in­ci­den­tes. Mien­tras que an­te­rior­men­te la ges­tión de vul­ne­ra­bi­li­da­des se­guía un pro­ce­so pre­de­ci­ble de de­tec­ción y par­cheo en un plazo apro­xi­ma­do de no­ven­ta días, la tec­no­lo­gía ac­tual per­mi­te des­cu­brir y ex­plo­tar fa­llos ma­si­va­men­te en cues­tión de horas. Esta enor­me can­ti­dad de vul­ne­ra­bi­li­da­des ge­ne­ra­das por mo­de­los avan­za­dos evi­den­cia la ne­ce­si­dad de im­ple­men­tar con­tro­les adi­cio­na­les más allá de los me­ca­nis­mos de­fen­si­vos bá­si­cos.

Ante estos ries­gos, di­ver­sas or­ga­ni­za­cio­nes y em­pre­sas han so­li­ci­ta­do re­for­zar las de­fen­sas ci­ber­né­ti­cas y es­ta­ble­cer nor­ma­ti­vas. Se han dado a co­no­cer me­di­das como la des­ace­le­ra­ción tem­po­ral en el de­sa­rro­llo de mo­de­los avan­za­dos por parte de Ope­nAI, un lla­ma­do con­jun­to de casi cien­to trein­ta com­pa­ñías para ace­le­rar las prio­ri­da­des de los de­fen­so­res, y la crea­ción de ini­cia­ti­vas gu­ber­na­men­ta­les, como la cá­ma­ra de com­pen­sa­ción de CISA y los pla­nes de Corea del Sur. Asi­mis­mo, se pro­yec­tan mo­di­fi­ca­cio­nes re­gu­la­to­rias en sec­to­res como salud y fi­nan­zas me­dian­te nor­ma­ti­vas que exi­gi­rán eva­lua­cio­nes de ries­go anua­les y el re­gis­tro de todas las he­rra­mien­tas de in­te­li­gen­cia ar­ti­fi­cial uti­li­za­das.