Se ha notificado a la autoridad reguladora española la primera filtración de datos de Agentic AI
La Agencia Española de Protección de Datos ha dado a conocer los detalles sobre el primer aviso de una violación de protección de datos personales llevada a cabo mediante el diseño de un agente de inteligencia artificial. Aunque los ataques con asistencia de inteligencia artificial ya son habituales, este caso representa el primer ataque con agentes conocido que trasciende el ámbito puramente teórico hacia el mundo real, a pesar de que la investigación sigue su curso y la agencia mantiene la cautela en sus declaraciones.
El incidente consistió en un acceso exitoso seguido de la búsqueda de vulnerabilidades, además de la capacidad para alterar información personal y consultar facturas. Lo destacable para la protección de datos, según el organismo, es que un tercero empleó un agente de inteligencia artificial como herramienta para concatenar de forma exitosa las diferentes etapas de la agresión. La agencia señala que esto constituye un cambio cualitativo, ya que un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y ajustar sus acciones de manera autónoma a gran velocidad.
Esta situación exige una modificación cuádruple en la gestión de riesgos que abarque el análisis de peligros por parte de agentes adversarios, la mejora en los tiempos de respuesta ante incidentes, el reconocimiento y mejor protección de las identidades y credenciales digitales, y la implementación de mecanismos que no dependan exclusivamente de la intervención manual. La agencia recalca que la supervisión humana sigue siendo indispensable, pero debe apoyarse en sistemas de detección, contención y respuesta capaces de operar con la rapidez necesaria, lo que implica que la defensa también debe contar con asistencia de inteligencia artificial pero manteniendo a un humano involucrado en el proceso.