AI agent detection signals that still work when agents look human
En una entrevista reciente, Zohaib Ahmed, director ejecutivo de Resemble AI, explica que a diferencia de los bots tradicionales que siguen un guion fijo, los agentes de inteligencia artificial persiguen un objetivo determinado y deciden sus propios pasos de manera dinámica. Estos agentes pueden presentarse de tres formas distintas: declarados, no declarados o disimulados. Mientras que los sistemas de detección binarios tradicionales pueden identificar fácilmente a los declarados, suelen fallar con los no declarados y casi siempre pasan por alto a los disimulados, ya que estos últimos simulan la apariencia humana mediante la navegación y el comportamiento.
Para detectar aquellos agentes que imitan a usuarios humanos impacientes, es necesario analizar señales específicas del comportamiento digital. Entre estos indicadores se encuentran la forma en que se mueve el cursor, la secuencia y rapidez de los clics, el ritmo de escritura y el comportamiento al desplazarse por la página. Asimismo, se deben vigilar las solicitudes de cabecera, las banderas de automatización y los grupos de sesiones que persiguen un mismo objetivo de forma simultánea, lo cual podría indicar un enjambre.
Los empleados suelen conectar agentes de inteligencia artificial a herramientas corporativas como correos electrónicos, calendarios y plataformas de software mediante claves de API personales y permisos de OAuth sin informar al departamento de seguridad. Para descubrir estos agentes ocultos, se recomienda revisar primeramente los registros de consentimiento y concesión de aplicaciones OAuth del proveedor de identidad, buscando aplicaciones de terceros con permisos amplios autorizados por un solo usuario. Posteriormente, se deben examinar las auditorías de herramientas SaaS en busca de claves personales y analizar el tráfico saliente hacia plataformas de modelos y agentes desde equipos que no deberían realizar esas llamadas.