Las medidas de control de la IA no están frenando a los piratas informáticos
Especialistas en inteligencia de amenazas cibernéticas han detectado que diversos delincuentes informáticos, incluidos operadores con menor nivel técnico, están incorporando inteligencia artificial agéntica en sus campañas para burlar las medidas de seguridad de los modelos. Los investigadores analizaron la infraestructura digital de cuatro grupos distintos que operaban en diferentes idiomas, descubriendo que estos actores lograron mantener sus operaciones de forma autónoma durante largos periodos de tiempo y dejaron sus sistemas accesibles en servidores web.
Para llevar a cabo sus acciones, los atacantes utilizaron tanto modelos de inteligencia artificial abiertos como cerrados, decantándose principalmente por versiones anteriores para optimizar costes. Asimismo, aprovecharon las diferencias existentes en las barreras de protección entre los distintos modelos, logrando evadir los filtros mediante técnicas tradicionales de evasión, la redacción de premisas que fingían intenciones autorizadas o legítimas, y la incorporación de archivos específicos en los directorios de trabajo para aparentar que las tareas contaban con la aprobación correspondiente.
Entre los casos identificados, el grupo que operaba en español e inglés logró vulnerar a múltiples organizaciones sanitarias y sustraer credenciales y registros médicos mediante el uso de infraestructura automatizada con un agente supervisor y otro ejecutor. Por su parte, el grupo en idioma chino afectó a objetivos gubernamentales y privados en varios países utilizando herramientas para modificar instrucciones de sistema y apoyándose en servicios de proxy y respaldos alternativos. Finalmente, las agrupaciones de habla rusa e indonesia recurrieron a habilidades más básicas y públicas, logrando de igual manera comprometer diversos dominios gubernamentales y del sector privado.