La IA generativa está eliminando los indicios de comportamiento y debilitando la detección basada exclusivamente en el comportamiento, según un informe de Proofpoint
La inteligencia artificial generativa ha transformado la apariencia de los correos maliciosos, eliminando las señales de comportamiento en las que los filtros de correo electrónico confiaban tradicionalmente. Los atacantes ya no necesitan reutilizar plantillas ni descuidar la redacción, ya que las herramientas de IA les permiten crear mensajes fluidos, personalizados y únicos para cada receptor. Datos federales reflejan el impacto de estas tecnologías mediante miles de denuncias y pérdidas millonarias asociadas tanto a incidentes con IA como a compromisos de correo empresarial.
Esta evolución permite a los atacantes superar las restricciones del pasado relacionadas con el idioma, el contexto, la creación de personajes ficticios y la variación de mensajes. En la práctica, se han documentado campañas dirigidas contra múltiples agentes inmobiliarios o profesionales de otros sectores donde cada contacto utiliza un enfoque diferente y único, lo que evita que los filtros detecten contenido repetido o historiales previos. Asimismo, la IA facilita campañas de disrupción que no buscan robar credenciales ni incluir enlaces maliciosos, sino enviar mensajes hostiles o imágenes manipuladas a diversos ejecutivos.
Como respuesta a la pérdida de eficacia en la detección basada exclusivamente en el comportamiento, Proofpoint plantea cambiar el enfoque hacia el análisis de la intención del mensaje y lo que este intenta lograr. Este modelo de detección basado en la intención evalúa la plausibilidad de la solicitud en función de la relación y el contexto, complementando a los métodos tradicionales y modernos mediante un sistema de múltiples niveles de análisis adaptados a la velocidad del flujo de correos.