Un agente de IA fuera de control acumuló una factura de 50.000 dólares por servicios en la nube

Las empresas están incorporando sistemas de inteligencia artificial autónomos para realizar diversas operaciones en la nube, mientras que las amenazas se diversifican hacia la inyección indirecta de comandos y vulnerabilidades en la cadena de suministro. Según un informe reciente de Mandiant y el Google Threat Intelligence Group (GTIG), los agentes de confianza pueden convertirse en vectores de ataque internos si sus fuentes de datos o dependencias resultan comprometidas. Para hacer frente a esta situación, se señala la necesidad de implementar controles de identidad adaptativos y enfocar los centros de operaciones de seguridad hacia la telemetría del comportamiento en tiempo real.

Los atacantes emplean la inteligencia artificial para automatizar tareas operativas, realizar investigaciones de vulnerabilidades y ejecutar ataques complejos en múltiples fases, además de manipular herramientas legítimas mediante técnicas de la cadena de suministro. Las pruebas de equipos de "red teaming" demostraron que la inyección de comandos sigue siendo un vector principal, evidenciado en casos donde asistentes de inteligencia artificial fueron engañados para exfiltrar repositorios corporativos internos hacia cuentas externas controladas por evaluadores. Asimismo, se han documentado incidentes donde la falta de controles estrictos provocó fallos operativos graves, como el caso de un agente contable que entró en un bucle de ejecución descontrolado y generó una factura considerable en servicios de la nube.