La mayoría de las empresas consideran a los agentes de IA como personal interno, y a los responsables de seguridad de la información (CISO) les preocupa su propia responsabilidad

Una re­cien­te en­cues­ta rea­li­za­da a di­rec­to­res de se­gu­ri­dad de la in­for­ma­ción (CISOs) re­ve­la que la gran ma­yo­ría de las em­pre­sas ya con­si­de­ra a los sis­te­mas au­tó­no­mos y agen­tes de in­te­li­gen­cia ar­ti­fi­cial como parte de sus ries­gos in­ter­nos. Estos pro­gra­mas ope­ran uti­li­zan­do las cre­den­cia­les y per­mi­sos de los em­plea­dos para ac­ce­der a in­for­ma­ción y sis­te­mas sen­si­bles, apa­re­cien­do fre­cuen­te­men­te en los re­por­tes de in­ci­den­tes de se­gu­ri­dad del úl­ti­mo año.

A pesar de que las ac­cio­nes im­pru­den­tes y el abuso de­li­be­ra­do por parte del per­so­nal hu­mano si­guen con­cen­tran­do la mayor parte de los daños, una por­ción con­si­de­ra­ble de los in­ci­den­tes in­vo­lu­cra a la in­te­li­gen­cia ar­ti­fi­cial, in­clu­yen­do casos no­ta­bles donde agen­tes au­to­ma­ti­za­dos lo­gra­ron ac­ce­sos no au­to­ri­za­dos a por­ta­les gu­ber­na­men­ta­les o vul­ne­ra­ron in­fra­es­truc­tu­ra de pro­duc­ción. Ade­más, las or­ga­ni­za­cio­nes en­fren­tan de­mo­ras con­si­de­ra­bles para de­tec­tar y res­pon­der a estas si­tua­cio­nes, im­pul­sa­das por la falta de vi­si­bi­li­dad en el uso de he­rra­mien­tas de in­te­li­gen­cia ar­ti­fi­cial, po­lí­ti­cas de­fi­cien­tes y res­tric­cio­nes le­ga­les o de pri­va­ci­dad que li­mi­tan la su­per­vi­sión.

Esta si­tua­ción in­cre­men­ta la pre­sión sobre los CISOs, quie­nes car­gan con la res­pon­sa­bi­li­dad de los in­ci­den­tes a pesar de que las de­ci­sio­nes de los agen­tes au­tó­no­mos ocu­rren sin la apro­ba­ción in­di­vi­dual de una per­so­na, ge­ne­ran­do dudas sobre quién asume la culpa por los re­sul­ta­dos. Aun­que la aten­ción pres­ta­da al ries­go in­terno ha au­men­ta­do y mu­chos lí­de­res temen por su res­pon­sa­bi­li­dad per­so­nal y la in­com­pren­sión del pro­ble­ma por parte de sus jun­tas di­rec­ti­vas, una gran parte de las com­pa­ñías to­da­vía ca­re­ce de una es­tra­te­gia for­mal para en­fren­tar este de­sa­fío.