Las agencias estadounidenses detallan las prácticas de respuesta ante incidentes relacionados con agentes de IA rebeldes

Va­rias agen­cias gu­ber­na­men­ta­les han pu­bli­ca­do una serie de prác­ti­cas clave para ayu­dar a las or­ga­ni­za­cio­nes a pre­pa­rar­se, pre­ve­nir y res­pon­der ante com­por­ta­mien­tos im­pre­vis­tos o da­ñi­nos en sis­te­mas de in­te­li­gen­cia avan­za­dos. Este in­for­me, ela­bo­ra­do de ma­ne­ra con­jun­ta, em­plea el con­cep­to de súper in­te­li­gen­cia en lugar de in­te­li­gen­cia ar­ti­fi­cial, ali­neán­do­se con una orden eje­cu­ti­va pre­si­den­cial es­pe­cí­fi­ca men­cio­na­da en el do­cu­men­to.

El do­cu­men­to di­vi­de diez prác­ti­cas fun­da­men­ta­les en cinco eta­pas dis­tin­tas: pre­pa­ra­ción, de­tec­ción, res­pues­ta, re­cu­pe­ra­ción y no­ti­fi­ca­ción. Nin­gu­na de estas eta­pas tiene mayor prio­ri­dad que las demás, sino que deben con­si­de­rar­se como un único ob­je­ti­vo in­te­gral. Ade­más, la guía in­clu­ye de­fi­ni­cio­nes clave para cla­ri­fi­car tér­mi­nos re­la­cio­na­dos con los agen­tes tec­no­ló­gi­cos, los in­ci­den­tes de con­trol y los even­tos que es­tu­vie­ron cerca de serlo.

La etapa de pre­pa­ra­ción abar­ca in­ven­ta­rios de ac­ti­vos y ries­gos, con­tro­les de con­fian­za cero, ges­tión de cre­den­cia­les y ad­mi­nis­tra­ción de la ca­de­na de su­mi­nis­tro. Para la de­tec­ción, se exige un mo­ni­to­reo con­ti­nuo en­fo­ca­do en el fun­cio­na­mien­to co­rrec­to y la bús­que­da de ano­ma­lías. La res­pues­ta in­clu­ye el ais­la­mien­to de los sis­te­mas afec­ta­dos, la re­vo­ca­ción de cre­den­cia­les y el aná­li­sis de la causa raíz. La re­cu­pe­ra­ción de­man­da poner a prue­ba los pro­ce­di­mien­tos de res­tau­ra­ción de an­te­mano, mien­tras que el re­por­te abar­ca la co­mu­ni­ca­ción a las par­tes afec­ta­das y al pú­bli­co en ge­ne­ral cuan­do co­rres­pon­da por ley.

El ar­tícu­lo ori­gi­nal no apor­ta más de­ta­lle sobre las prác­ti­cas es­pe­cí­fi­cas más allá de las diez men­cio­na­das y las cinco eta­pas des­cri­tas en el in­for­me.