Los CISO se apresuran a controlar los agentes de IA sin mermar su valor

Los líderes de seguridad informática enfrentan grandes desafíos debido a la inteligencia artificial, destacando la necesidad de actualizar las prácticas tradicionales de higiene cibernética y de evitar los efectos no deseados provocados por agentes con demasiados privilegios. Una firma de capital de riesgo e inversión privada elaboró un reporte anual a partir de las opiniones de líderes de seguridad que forman parte de una comunidad exclusiva, revelando que la seguridad en la inteligencia artificial y sus agentes representa la principal preocupación para una gran parte de los encuestados.

Tim Brown, responsable de seguridad en dicha firma, explicó que la superficie de ataque ha evolucionado, por lo que medidas tradicionales como cortafuegos o la autenticación multifactor ya no bastan por sí solas frente a las amenazas actuales. Además, los empleados crean agentes mediante herramientas de programación accesibles para realizar tareas variadas, desde resumir correos electrónicos hasta modificar procesos comerciales utilizando datos corporativos.

El problema principal radica en que los usuarios suelen carecer de precisión exacta al redactar las instrucciones, y los agentes ejecutan exactamente lo que interpretan, lo cual puede generar resultados imprevistos o acciones en partes críticas de la red debido al comportamiento probabilístico de los modelos. Los líderes de seguridad deben establecer barreras de protección adecuadas durante el desarrollo para limitar las acciones de los agentes sin eliminar su utilidad empresarial. Como recomendación final, se sugiere fomentar la transparencia y el intercambio de experiencias entre profesionales de la seguridad para afrontar estos retos de manera conjunta.