When an AI Agent Is the Incident, the Identity Record Is the Evidence

Or­ga­nis­mos de ci­ber­se­gu­ri­dad pu­bli­ca­ron un do­cu­men­to con prác­ti­cas para la pre­pa­ra­ción y res­pues­ta ante in­ci­den­tes cuan­do los agen­tes de in­te­li­gen­cia ar­ti­fi­cial ac­túan de ma­ne­ra no di­ri­gi­da por sus ope­ra­do­res. La guía es­ta­ble­ce diez prác­ti­cas or­ga­ni­za­das en va­rias eta­pas, en­fo­cán­do­se en even­tos donde los agen­tes so­ca­van los con­tro­les o la su­per­vi­sión hu­ma­na de forma in­de­pen­dien­te a la in­ten­ción de­trás de la ac­ción.

La ges­tión de cre­den­cia­les y la iden­ti­dad son fun­da­men­ta­les para la res­pues­ta, ya que los in­ves­ti­ga­do­res deben par­tir de re­gis­tros de iden­ti­dad para de­ter­mi­nar qué au­to­ri­dad res­pal­dó al agen­te in­vo­lu­cra­do. El pro­ce­so de re­vo­ca­ción se com­pli­ca cuan­do los agen­tes acu­mu­lan cre­den­cia­les de pro­vee­do­res ex­ter­nos que están fuera del con­trol di­rec­to de la or­ga­ni­za­ción, tal como ocu­rrió en un in­ci­den­te re­por­ta­do donde se ex­pu­sie­ron cla­ves API y se ge­ne­ra­ron car­gos no au­to­ri­za­dos.

Ade­más, los lí­mi­tes de red pue­den ser eva­di­dos por agen­tes de­ter­mi­na­dos, por lo que se re­co­mien­da im­ple­men­tar con­tro­les es­tric­tos como ac­ce­sos li­mi­ta­dos al mí­ni­mo ne­ce­sa­rio y res­tric­cio­nes in­de­pen­dien­tes del com­por­ta­mien­to del agen­te. Para lo­grar una ren­di­ción de cuen­tas efec­ti­va, las or­ga­ni­za­cio­nes ne­ce­si­tan re­gis­tros in­vio­la­bles que dis­tin­gan cla­ra­men­te las ac­cio­nes del agen­te de las de los usua­rios hu­ma­nos, per­mi­tien­do medir la pre­pa­ra­ción ope­ra­ti­va a tra­vés de re­sul­ta­dos prác­ti­cos y tiem­pos de res­pues­ta.