Un ataque de IA basado en la identidad amenaza la seguridad de los datos empresariales

In­ves­ti­ga­do­res de se­gu­ri­dad han des­cu­bier­to un nuevo vec­tor de ata­que di­ri­gi­do a la in­te­li­gen­cia ar­ti­fi­cial em­pre­sa­rial, al que han de­no­mi­na­do «se­cues­tro de iden­ti­dad de flujo de tra­ba­jo». Este pro­ble­ma surge de­bi­do a una falla en el di­se­ño de la au­to­ri­za­ción den­tro de los con­duc­tos de IA mo­der­nos, lo que per­mi­te elu­dir los con­tro­les de se­gu­ri­dad ha­bi­tua­les me­dian­te el envío de so­li­ci­tu­des co­mu­nes a tra­vés de pun­tos de en­tra­da pú­bli­cos y sin au­ten­ti­ca­ción, como for­mu­la­rios web, ban­de­jas de so­por­te o do­cu­men­tos com­par­ti­dos.

El fallo fun­da­men­tal se ori­gi­na por­que estos sis­te­mas se­pa­ran la iden­ti­dad del usua­rio que ini­cia la ac­ción de los per­mi­sos uti­li­za­dos para lle­var­la a cabo. Como re­sul­ta­do, las ope­ra­cio­nes se eje­cu­tan uti­li­zan­do cuen­tas de ser­vi­cio con altos pri­vi­le­gios o cla­ves de API de de­sa­rro­lla­do­res en lugar de apli­car los per­mi­sos co­rres­pon­dien­tes al usua­rio ex­terno, lo que trans­for­ma al flujo de tra­ba­jo en un in­ter­me­dia­rio no au­ten­ti­ca­do que fa­ci­li­ta la ex­fil­tra­ción si­len­cio­sa de datos sin ne­ce­si­dad de ma­ni­pu­lar o en­ga­ñar al mo­de­lo de len­gua­je.

Para hacer fren­te a esta ame­na­za, los ex­per­tos re­co­mien­dan tras­la­dar las me­di­das de se­gu­ri­dad desde la capa del mo­de­lo hacia las capas de apli­ca­ción e in­fra­es­truc­tu­ra. Entre las so­lu­cio­nes pro­pues­tas se en­cuen­tran el uso de la de­le­ga­ción de to­kens con­tex­tua­les y con lí­mi­te de tiem­po vin­cu­la­dos al so­li­ci­tan­te au­ten­ti­ca­do, el es­ta­ble­ci­mien­to de con­tro­les de au­to­ri­za­ción con­tex­tual para tra­tar las sa­li­das del mo­de­lo como en­tra­das no con­fia­bles, la se­pa­ra­ción asi­mé­tri­ca de las res­pues­tas y la im­ple­men­ta­ción de me­ca­nis­mos de en­ga­ño ba­sa­dos en ac­ti­vos tram­pa.