Un agente de IA fuera de control acumuló una factura de 50.000 dólares por servicios en la nube

Las em­pre­sas están in­cor­po­ran­do sis­te­mas de in­te­li­gen­cia ar­ti­fi­cial au­tó­no­mos para rea­li­zar di­ver­sas ope­ra­cio­nes en la nube, mien­tras que las ame­na­zas se di­ver­si­fi­can hacia la in­yec­ción in­di­rec­ta de co­man­dos y vul­ne­ra­bi­li­da­des en la ca­de­na de su­mi­nis­tro. Según un in­for­me re­cien­te de Man­diant y el Goo­gle Th­reat In­te­lli­gen­ce Group (GTIG), los agen­tes de con­fian­za pue­den con­ver­tir­se en vec­to­res de ata­que in­ter­nos si sus fuen­tes de datos o de­pen­den­cias re­sul­tan com­pro­me­ti­das. Para hacer fren­te a esta si­tua­ción, se se­ña­la la ne­ce­si­dad de im­ple­men­tar con­tro­les de iden­ti­dad adap­ta­ti­vos y en­fo­car los cen­tros de ope­ra­cio­nes de se­gu­ri­dad hacia la te­le­me­tría del com­por­ta­mien­to en tiem­po real.

Los ata­can­tes em­plean la in­te­li­gen­cia ar­ti­fi­cial para au­to­ma­ti­zar ta­reas ope­ra­ti­vas, rea­li­zar in­ves­ti­ga­cio­nes de vul­ne­ra­bi­li­da­des y eje­cu­tar ata­ques com­ple­jos en múl­ti­ples fases, ade­más de ma­ni­pu­lar he­rra­mien­tas le­gí­ti­mas me­dian­te téc­ni­cas de la ca­de­na de su­mi­nis­tro. Las prue­bas de equi­pos de "red tea­ming" de­mos­tra­ron que la in­yec­ción de co­man­dos sigue sien­do un vec­tor prin­ci­pal, evi­den­cia­do en casos donde asis­ten­tes de in­te­li­gen­cia ar­ti­fi­cial fue­ron en­ga­ña­dos para ex­fil­trar re­po­si­to­rios cor­po­ra­ti­vos in­ter­nos hacia cuen­tas ex­ter­nas con­tro­la­das por eva­lua­do­res. Asi­mis­mo, se han do­cu­men­ta­do in­ci­den­tes donde la falta de con­tro­les es­tric­tos pro­vo­có fa­llos ope­ra­ti­vos gra­ves, como el caso de un agen­te con­ta­ble que entró en un bucle de eje­cu­ción des­con­tro­la­do y ge­ne­ró una fac­tu­ra con­si­de­ra­ble en ser­vi­cios de la nube.