Cómo los agentes de IA pueden provocar un aumento descontrolado de los costes para las empresas

Las apli­ca­cio­nes de in­te­li­gen­cia ar­ti­fi­cial pue­den acu­mu­lar gas­tos im­pre­vis­tos cuan­do ca­re­cen de con­tro­les efi­ca­ces sobre la can­ti­dad de po­ten­cia de cálcu­lo y re­cur­sos que puede con­su­mir una so­li­ci­tud. Esta vul­ne­ra­bi­li­dad, co­no­ci­da como con­su­mo ili­mi­ta­do, ocupa el sexto lugar en la lista de las diez prin­ci­pa­les apli­ca­cio­nes de mo­de­los de len­gua­je gran­de (LLM) de OWASP y puede pro­vo­car efec­tos como pro­ce­sa­mien­to des­con­tro­la­do, in­te­rrup­ción del ser­vi­cio y robo de mo­de­los. El fe­nó­meno co­no­ci­do como de­ne­ga­ción de car­te­ra ocu­rre cuan­do la falta de lí­mi­tes per­mi­te que los cos­tos ope­ra­ti­vos su­peren cual­quier pre­su­pues­to, sin que el ser­vi­cio sufra ne­ce­sa­ria­men­te una caída.

Los ries­gos re­la­cio­na­dos con este pro­ble­ma son di­fí­ci­les de de­tec­tar por­que las so­li­ci­tu­des in­di­vi­dua­les pue­den pa­re­cer nor­ma­les y no su­pe­rar los lí­mi­tes es­ta­ble­ci­dos, in­clu­so cuan­do el con­su­mo acu­mu­la­do se vuel­ve per­ju­di­cial. El in­for­me se­ña­la cinco for­mas en que se ma­ni­fies­ta esta si­tua­ción, co­men­zan­do por la de­ne­ga­ción de car­te­ra me­dian­te cre­den­cia­les fil­tra­das de API. Otra mo­da­li­dad es la dis­per­sión de he­rra­mien­tas de agen­tes, donde un ata­can­te con­ta­mi­na con­te­ni­do que el agen­te con­sul­ta para des­en­ca­de­nar ca­de­nas ma­si­vas de ac­ti­vi­dad. Asi­mis­mo, el ago­ta­mien­to por bu­cles de ra­zo­na­mien­to se pro­du­ce me­dian­te in­di­ca­cio­nes que fuer­zan al mo­de­lo a re­vi­sar su ló­gi­ca re­pe­ti­da­men­te, con­su­mien­do to­kens de pen­sa­mien­to ex­ce­si­vos.