AI Agents Are Privileged Users; Who Is Auditing Their Access?

Las em­pre­sas sue­len des­ti­nar gran­des re­cur­sos a la pro­tec­ción del pe­rí­me­tro hu­mano me­dian­te au­ten­ti­ca­ción mul­ti­fac­tor y con­tro­les es­tric­tos de ac­ce­so, pero a me­nu­do pasan por alto el nivel de ac­ce­so que otor­gan a los agen­tes de in­te­li­gen­cia ar­ti­fi­cial au­tó­no­mos. Estas en­ti­da­des ope­ran me­dian­te iden­ti­da­des no hu­ma­nas res­pal­da­das por cuen­tas de ser­vi­cio o fi­chas de ac­ce­so, y son ca­pa­ces de eje­cu­tar ac­cio­nes de má­qui­na a má­qui­na en en­tor­nos con­fi­den­cia­les sin la su­per­vi­sión ade­cua­da.

El pro­ble­ma prin­ci­pal ra­di­ca en que estos sis­te­mas au­tó­no­mos ac­túan como usua­rios con pri­vi­le­gios ele­va­dos, ca­pa­ces de ini­ciar, apro­bar y eje­cu­tar pro­ce­sos de ma­ne­ra si­mul­tá­nea, lo que puede rom­per prin­ci­pios fun­da­men­ta­les de se­pa­ra­ción de ta­reas. Como con­se­cuen­cia, un fallo en estos flu­jos au­to­ma­ti­za­dos po­dría ma­ni­fes­tar­se como una in­te­rrup­ción en la pro­duc­ción, pro­ble­mas de in­te­gri­dad de datos o gas­tos im­pre­vis­tos en la nube, eva­dien­do los con­tro­les tra­di­cio­na­les di­se­ña­dos para hu­ma­nos.

Para mi­ti­gar esta vul­ne­ra­bi­li­dad y evi­tar que se con­vier­tan en ame­na­zas in­ter­nas, la se­gu­ri­dad debe in­te­grar a los agen­tes de in­te­li­gen­cia ar­ti­fi­cial den­tro de la ges­tión de ac­ce­sos e iden­ti­da­des y la ges­tión de ac­ce­sos pri­vi­le­gia­dos. Esto im­pli­ca es­ta­ble­cer iden­ti­da­des de má­qui­na ais­la­das con cre­den­cia­les de corta du­ra­ción, li­mi­tar su radio de ac­ción a lo es­tric­ta­men­te ne­ce­sa­rio, asig­nar una pro­pie­dad de ries­go em­pre­sa­rial clara, man­te­ner un re­gis­tro de­ta­lla­do de su ac­ti­vi­dad, rea­li­zar re­vi­sio­nes pe­rió­di­cas de sus ac­ce­sos y con­tar con me­ca­nis­mos para con­te­ner­los rá­pi­da­men­te en caso de in­ci­den­tes.