If you do one security check this quarter, make it agent memory
En una entrevista sobre los riesgos de seguridad en la memoria de los agentes de inteligencia artificial, Chris Latimer, director ejecutivo de Vectorize, señala que estos sistemas almacenan inadvertidamente credenciales, llaves de API y documentos confidenciales en texto plano dentro de máquinas de desarrolladores y servicios en la nube. Según el experto, esta información queda expuesta en archivos en formato markdown y otros soportes, a pesar de los esfuerzos empresariales por proteger los datos durante el ciclo de vida del desarrollo de software seguro.
El artículo detalla que los atacantes podrían introducir memorias maliciosas aprovechando integraciones, complementos y habilidades, dirigiendo sus ataques especialmente hacia nuevos programadores que confían con facilidad en herramientas externas. Mediante estos puntos de extensión, un complemento malicioso podría examinar la memoria de los agentes en busca de claves o tokens y reportarlos a una API externa, combinando tácticas de ingeniería social con la falta de experiencia de ciertos usuarios.
Respecto a la respuesta ante incidentes y la recolección de pruebas, el texto indica que resulta prioritario rastrear el origen de la memoria comprometida, identificando si proviene de un servidor MCP, de la respuesta a una llamada de herramienta o de una amenaza interna para contener el daño. Sin embargo, el entrevistado recalca que la prioridad debe ser detectar y filtrar estos ataques antes de que los datos lleguen a persistirse, mencionando como referencia proyectos orientados a esta protección.