El director de seguridad de la información (CISO) de Immuta prevé que se produzcan incidentes críticos relacionados con la inteligencia artificial en las principales empresas en un plazo de 18 meses
En una entrevista reciente, Michael Scott, director de seguridad de la información en Immuta, abordó los desafíos relacionados con la gestión de permisos para agentes de inteligencia artificial. El experto sostiene que estas herramientas tecnológicas deben considerarse identidades de menor confianza que no deben heredar de manera automática todos los privilegios de los usuarios humanos que las emplean. Según explica, a diferencia del incremento gradual de privilegios en los empleados, los agentes introducen una mayor imprevisibilidad debido a su capacidad de operar por iniciativa propia, interactuar con múltiples perfiles y crear subagentes.
Scott advierte sobre la complejidad que surge cuando una tarea se delega a lo largo de una cadena de agentes o herramientas externas, ya que resulta fácil perder el rastro de quién autorizó una acción final y qué sistemas fueron consultados en el proceso. Asimismo, muestra escepticismo frente a los proveedores que aseguran que la simple autenticación de la identidad de un agente es suficiente para garantizar la seguridad de sus acciones, destacando la necesidad de contar con sistemas capaces de impedir accesos innecesarios a los datos y no limitarse a reportarlos de forma posterior.
Finalmente, el CISO realiza la previsión de que, impulsadas por el afán de competitividad, productividad y reducción de costos, al menos dos grandes empresas ajenas al sector de la inteligencia artificial sufrirán un incidente crítico de seguridad o privacidad relacionado con esta tecnología. Esto ocurrirá porque las organizaciones implementarán agentes autónomos de alto riesgo sin los resguardos de seguridad adecuados, evidenciando las limitaciones de los controles de acceso tradicionales en sistemas heredados.