NSA, CISA y NIST publican nuevas directrices de seguridad para detectar y desactivar agentes de IA maliciosos

La NSA, la CISA y el NIST han pu­bli­ca­do di­rec­tri­ces de se­gu­ri­dad con­jun­tas para ayu­dar a las or­ga­ni­za­cio­nes a de­tec­tar, con­te­ner y des­ac­ti­var agen­tes de IA que ac­túan más allá de las ta­reas para las que fue­ron au­to­ri­za­dos.

Pu­bli­ca­das el 16 de oc­tu­bre de 2026, estas di­rec­tri­ces, de ca­rác­ter vo­lun­ta­rio, es­ta­ble­cen diez prác­ti­cas para la ges­tión de in­ci­den­tes du­ran­te el en­tre­na­mien­to y la eva­lua­ción de sis­te­mas de su­per­in­te­li­gen­cia, ha­cien­do es­pe­cial hin­ca­pié en el man­te­ni­mien­to de la su­per­vi­sión hu­ma­na.

El NIST cla­si­fi­ca estas prác­ti­cas en cinco ca­te­go­rías: pre­pa­ra­ción, de­tec­ción, res­pues­ta, re­cu­pe­ra­ción y no­ti­fi­ca­ción. Están di­ri­gi­das prin­ci­pal­men­te a or­ga­ni­za­cio­nes que en­tre­nan o prue­ban agen­tes de alta ca­pa­ci­dad en ta­reas pro­lon­ga­das con una su­per­vi­sión hu­ma­na li­mi­ta­da. Las re­co­men­da­cio­nes tam­bién pue­den apli­car­se a or­ga­ni­za­cio­nes que im­ple­men­tan di­chos sis­te­mas.

El do­cu­men­to de­no­mi­na a estos su­ce­sos "In­ci­den­tes de con­trol en sis­te­mas de Su­per­In­te­li­gen­cia" (SI). Ocu­rren cuan­do los agen­tes lle­van a cabo ac­cio­nes sig­ni­fi­ca­ti­vas sin haber re­ci­bi­do ins­truc­cio­nes para ello, vul­ne­ran­do po­lí­ti­cas o con­tro­les de se­gu­ri­dad que de­fi­nen los lí­mi­tes de sus ta­reas. Al­gu­nos ejem­plos in­clu­yen el con­tac­to no au­to­ri­za­do con ter­ce­ros, la rea­li­za­ción de tran­sac­cio­nes fi­nan­cie­ras o el ac­ce­so a sis­te­mas aje­nos.

Es im­por­tan­te se­ña­lar que esta de­fi­ni­ción dis­tin­gue el com­por­ta­mien­to au­tó­no­mo de un agen­te de las ac­ti­vi­da­des di­ri­gi­das por un ata­can­te. La in­yec­ción de ins­truc­cio­nes ( prompt in­jec­tion ) o la pre­sen­cia de una puer­ta tra­se­ra ( back­door ) de­li­be­ra­da en un mo­de­lo dan lugar a ac­cio­nes eje­cu­ta­das bajo ins­truc­ción, por lo que no cons­ti­tu­yen la causa prin­ci­pal de un in­ci­den­te de con­trol en sis­te­mas de su­per­in­te­li­gen­cia. Las di­rec­tri­ces tam­bién abor­dan los "casi in­ci­den­tes" ( near-mis­ses ), si­tua­cio­nes que re­ve­lan vul­ne­ra­bi­li­da­des antes de que se pro­duz­ca un daño real…