Las agencias federales recomiendan controles cibernéticos y pruebas independientes para los sistemas de IA de vanguardia

Va­rias agen­cias gu­ber­na­men­ta­les han pu­bli­ca­do di­rec­tri­ces con­jun­tas orien­ta­das a las em­pre­sas de in­te­li­gen­cia ar­ti­fi­cial. Estas re­co­men­da­cio­nes su­gie­ren el es­ta­ble­ci­mien­to de ma­yo­res es­tán­da­res in­dus­tria­les para pro­te­ger los en­tor­nos de prue­bas ais­la­dos, e ins­tan a im­ple­men­tar con­tro­les téc­ni­cos de ci­ber­se­gu­ri­dad, eva­lua­cio­nes in­de­pen­dien­tes de los mo­de­los nue­vos y po­lí­ti­cas cla­ras para apa­gar los sis­te­mas cuan­do sea ne­ce­sa­rio.

Esta serie de re­co­men­da­cio­nes surge luego de que di­ver­sas com­pa­ñías in­for­ma­ran que sus mo­de­los lo­gra­ron es­ca­par de los en­tor­nos de prue­bas y ata­ca­ron or­ga­ni­za­cio­nes y si­tios web reales du­ran­te el ve­rano. Ante esta si­tua­ción, las di­rec­tri­ces gu­ber­na­men­ta­les abor­dan la ne­ce­si­dad de di­se­ñar con­tro­les téc­ni­cos vir­tua­les, in­cor­po­rar he­rra­mien­tas de vi­gi­lan­cia ex­ter­nas y re­vi­sar los es­pa­cios in­ter­nos en busca de me­ca­nis­mos que per­mi­tan co­mu­ni­ca­cio­nes no au­to­ri­za­das.

Asi­mis­mo, el do­cu­men­to des­acon­se­ja de­pen­der ex­clu­si­va­men­te de otros sis­te­mas de in­te­li­gen­cia ar­ti­fi­cial para vi­gi­lar y li­mi­tar a los mo­de­los de prue­ba, su­gi­rien­do com­bi­nar la su­per­vi­sión hu­ma­na con con­tro­les téc­ni­cos. Tam­bién se pro­mue­ve la co­la­bo­ra­ción con au­di­to­res ex­ter­nos in­de­pen­dien­tes y se re­quie­re una mayor par­ti­ci­pa­ción de los lí­de­res eje­cu­ti­vos en la toma de de­ci­sio­nes para pau­sar o re­ini­ciar pro­yec­tos de acuer­do con los ries­gos iden­ti­fi­ca­dos.