La clave de la seguridad del software de IA no es la velocidad, sino la madurez
El desarrollo de software mediante inteligencia artificial agéntica genera grandes expectativas de productividad, pero también aumenta rápidamente la superficie de ataque debido al uso generalizado de modelos de lenguaje grande y herramientas no autorizadas. Esto supera los controles tradicionales y conlleva riesgos crecientes, señalados por predicciones de mayores costos en incidentes. Curiosamente, los mismos modelos avanzados que generan código funcional y de alta calidad también producen las vulnerabilidades más severas, lo que convierte esta tecnología en un arma de doble filo para la seguridad de las organizaciones.
Aunque la gobernanza es una estrategia fundamental para controlar el uso y las acciones de los agentes de inteligencia artificial, a menudo resulta insuficiente porque muchas empresas operan a ciegas respecto a su nivel actual de adopción. Sin comprender con precisión sus capacidades actuales, los riesgos involucrados y las habilidades de sus desarrolladores, las entidades no logran implementar adecuadamente las mejores prácticas de seguridad. Para solucionar esto, se propone un modelo de adopción estructurado en tres fases (asistida, nativa y agéntica) y ocho etapas observables que detallan la actividad, el riesgo y las necesidades de capacitación.
La fase asistida abarca los niveles iniciales de menor riesgo, ideales para establecer políticas de gobernanza y capacitar a los desarrolladores en codificación segura. La fase nativa incrementa la autonomía de los modelos y la productividad, pero eleva notablemente los riesgos, especialmente cuando hay un exceso de confianza en la tecnología y se pasa de redactar código a simplemente revisarlo. Por último, la fase agéntica alcanza niveles de riesgo muy altos y críticos, desde agentes individuales que operan de manera autónoma hasta la orquestación coordinada de múltiples agentes.