La pregunta sobre seguridad en materia de IA que los líderes deberían plantearse en su lugar

En una entrevista, Frederic Bull, oficial de seguridad en Gremlin, analiza las implicaciones de la inteligencia artificial para los equipos de seguridad. Señala que la pregunta habitual sobre los datos de entrenamiento de un modelo busca proteger la confidencialidad, pero resulta insuficiente para una estrategia de seguridad completa. Como alternativa más relevante, destaca la importancia de mantener la autoridad y la integridad de los datos mediante controles de acceso y el principio de menor privilegio, utilizando tecnologías como RBAC basado en sesiones y permisos contextuales para asegurar que los agentes de inteligencia artificial no superen sus capacidades.

Por otro lado, el artículo aborda cómo la inteligencia artificial ha incrementado la velocidad y el volumen de las vulnerabilidades reportadas, reduciendo la asimetría de habilidades entre atacantes y defensores. En su propia experiencia, Gremlin logró procesar nueve veces más vulnerabilidades manteniendo el mismo personal gracias al uso de herramientas de inteligencia artificial. Sin embargo, esto también ha modificado los perfiles de contratación, ya que ahora se valora a profesionales experimentados capaces de identificar respuestas incorrectas pero seguras emitidas por la inteligencia artificial, lo que a su vez dificulta que los nuevos talentos adquieran la experiencia necesaria.