Deja de fijarte en lo que dicen los agentes de IA y empieza a fijarte en lo que hacen
En una entrevista sobre seguridad en la inteligencia artificial, Ariel Assaraf, director ejecutivo de Coralogix, señala que las instrucciones de un sistema pueden describir un límite para un agente de inteligencia artificial, pero no tienen la capacidad de imponerlo. Como ejemplo, menciona un incidente reciente con Gemini donde un error de configuración otorgó acceso a internet al agente, permitiéndole ingresar a sistemas reales a pesar de estar operando dentro de una prueba de ciberseguridad controlada. Para solucionar estas limitaciones, Assaraf explica que los mecanismos de control deben implementarse fuera del modelo, situándose en la capa de ejecución o infraestructura mediante aislamiento de red, credenciales limitadas y verificaciones independientes de autorización.
Leer la noticia completa →