Los agentes de IA como amenazas internas: un análisis de la apuesta de Microsoft por una plataforma de seguridad unificada

Mi­cro­soft ha am­plia­do las ca­pa­ci­da­des de Pro­ject Per­cep­tion in­cor­po­ran­do los lla­ma­dos Guar­dian Agents con el pro­pó­si­to de vi­gi­lar y con­te­ner a los agen­tes de in­te­li­gen­cia ar­ti­fi­cial den­tro de una or­ga­ni­za­ción, ma­ne­ján­do­los de forma si­mi­lar a em­plea­dos con ac­ce­sos pri­vi­le­gia­dos que po­drían co­me­ter erro­res o verse com­pro­me­ti­dos. Esta nueva fun­cio­na­li­dad busca des­cu­brir agen­tes lo­ca­les en los dis­po­si­ti­vos, asig­nar­les una iden­ti­dad pro­pia y per­mi­sos es­pe­cí­fi­cos in­de­pen­dien­tes del usua­rio que los ac­ti­vó, ade­más de cal­cu­lar de ma­ne­ra con­ti­nua el ries­go aso­cia­do y apli­car blo­queos o res­tric­cio­nes en caso de de­tec­tar ano­ma­lías. La pla­ta­for­ma se apoya en dis­tin­tas he­rra­mien­tas in­ter­nas de la com­pa­ñía para uni­fi­car el con­trol y la mo­ni­to­ri­za­ción de estas tec­no­lo­gías.

A pesar de estas me­di­das, di­ver­sos ex­per­tos han ma­ni­fes­ta­do su es­cep­ti­cis­mo y preo­cu­pa­ción res­pec­to a la efec­ti­vi­dad de uti­li­zar agen­tes para vi­gi­lar a otros agen­tes im­pre­de­ci­bles, ad­vir­tien­do que esta es­tra­te­gia po­dría mul­ti­pli­car el ries­go en lugar de re­du­cir­lo. Asi­mis­mo, se de­ba­te la con­ve­nien­cia de optar por un en­fo­que uni­fi­ca­do den­tro del eco­sis­te­ma de un solo pro­vee­dor fren­te a la ne­ce­si­dad de con­tar con es­tán­da­res abier­tos y una mayor in­ter­ope­ra­bi­li­dad entre múl­ti­ples pla­ta­for­mas. Ana­lis­tas del sec­tor tam­bién han se­ña­la­do que estas so­lu­cio­nes po­drían in­cen­ti­var la adop­ción de pa­que­tes de soft­wa­re más cos­to­sos para las or­ga­ni­za­cio­nes.