Los permisos de los agentes de IA están superando a la seguridad

La ma­yo­ría de las em­pre­sas otor­gan ac­tual­men­te a los agen­tes de in­te­li­gen­cia ar­ti­fi­cial la fa­cul­tad de tomar de­ci­sio­nes y eje­cu­tar ac­cio­nes que an­te­rior­men­te re­que­rían au­to­ri­za­ción hu­ma­na. Como re­sul­ta­do de esta nueva au­to­ri­dad, un alto por­cen­ta­je de las or­ga­ni­za­cio­nes ha ex­pe­ri­men­ta­do in­ci­den­tes de se­gu­ri­dad o se­ña­les de aler­ta vin­cu­la­das a la in­te­li­gen­cia ar­ti­fi­cial, tales como co­ne­xio­nes no au­to­ri­za­das a sis­te­mas, ac­ce­so a in­for­ma­ción res­trin­gi­da o la eje­cu­ción de pro­ce­sos no apro­ba­dos. Estos agen­tes se di­fe­ren­cian de los sim­ples chat­bots de re­dac­ción al in­ter­ac­tuar di­rec­ta­men­te con otros sis­te­mas y mo­di­fi­car con­fi­gu­ra­cio­nes de ma­ne­ra au­tó­no­ma, exis­tien­do in­clu­so en­ti­da­des que per­mi­ten su fun­cio­na­mien­to sin re­vi­sión hu­ma­na en ta­reas crí­ti­cas como in­ves­ti­ga­cio­nes de se­gu­ri­dad o mo­di­fi­ca­cio­nes en en­tor­nos de pro­duc­ción.

Exis­te una dis­cre­pan­cia con­si­de­ra­ble entre la con­fian­za que de­cla­ran los lí­de­res de se­gu­ri­dad res­pec­to a su vi­si­bi­li­dad sobre el ac­ce­so a los datos y la ca­pa­ci­dad real para au­di­tar cada ac­ción in­di­vi­dual que rea­li­za un agen­te, lo que di­fi­cul­ta la in­ves­ti­ga­ción pos­te­rior a un fallo. A pesar de que se re­co­no­ce la im­por­tan­cia de li­mi­tar los ac­ce­sos por en­ci­ma de la pre­dic­ción de ame­na­zas, de­fi­nir ex­plí­ci­ta­men­te los per­mi­sos per­mi­ti­dos suele ser el con­trol menos prio­ri­za­do fren­te al uso de me­di­das como los guar­da­rraí­les in­ter­nos. Según ex­per­tos de la in­dus­tria, esta si­tua­ción se debe a la di­fi­cul­tad de es­ta­ble­cer di­chos lí­mi­tes sin in­te­rrum­pir los flu­jos de tra­ba­jo, mien­tras que las nor­ma­ti­vas y tri­bu­na­les es­ta­ble­cen que la res­pon­sa­bi­li­dad de las fa­llas recae di­rec­ta­men­te en la or­ga­ni­za­ción que im­ple­men­tó la he­rra­mien­ta y en el líder co­mer­cial que apro­bó el caso de uso.