I underestimated how fast security teams would trust AI to act in the SOC
El autor del artículo señala que inicialmente subestimó la velocidad con la que los equipos de seguridad adoptarían la inteligencia artificial en los centros de operaciones de seguridad (SOC). Contrariamente a la expectativa de que los obstáculos regulatorios y de cumplimiento retrasarían esta tecnología, la necesidad de reducir la brecha temporal entre la detección de amenazas y su impacto ha impulsado una integración mucho más rápida, motivada por la acumulación de alertas y la escasez de tiempo para los analistas humanos.
Anteriormente se creía que la inteligencia artificial solo servía para resumir y clasificar alertas, pero la experiencia demuestra que muchas organizaciones ya permiten que asuma mayores responsabilidades basándose en una sólida calidad de datos. Los equipos suelen comenzar utilizando la herramienta como un asistente que investiga, reúne pruebas y sugiere acciones bajo supervisión y auditoría humana, delegando mayor autonomía de manera gradual a medida que el sistema demuestra precisión. Un ejemplo de esto es el uso de plataformas para la clasificación continua de alertas y la reducción drástica de los tiempos de investigación.
El nivel de confianza que los equipos depositan en estas tecnologías depende directamente de la arquitectura de datos que las sustenta. Mientras que algunos productos combinan modelos de lenguaje con bases de datos tradicionales propensas a errores, aquellos con un respaldo adecuado emplean grafos de conocimiento y contextos comerciales que permiten razonar sobre hechos reales. Por ello, se recomienda a los líderes de seguridad evaluar la transparencia de las herramientas, su capacidad para mostrar evidencias y cómo gestionan la información incompleta o contradictoria.