La gobernanza de la IA no puede esperar

Un grupo vinculado a Rusia, denominado UAC-0099, empleó una nueva táctica llamada GuardBreaker contra un objetivo en Ucrania, la cual consiste en alterar el razonamiento defensivo de la inteligencia artificial. Los atacantes insertaron texto problemático relacionado con la fabricación de armas nucleares como comentario dentro de un script malicioso en VBScript. El propósito de esta acción fue activar los mecanismos de seguridad del modelo de lenguaje grande para impedir que analizara el resto del código malicioso y lograr vulnerar las redes de la víctima de manera silenciosa.

La adopción generalizada de la inteligencia artificial está acelerando el panorama de amenazas al incrementar tanto la velocidad como la complejidad de los incidentes. Mientras que anteriormente la gestión de vulnerabilidades seguía un proceso predecible de detección y parcheo en un plazo aproximado de noventa días, la tecnología actual permite descubrir y explotar fallos masivamente en cuestión de horas. Esta enorme cantidad de vulnerabilidades generadas por modelos avanzados evidencia la necesidad de implementar controles adicionales más allá de los mecanismos defensivos básicos.

Ante estos riesgos, diversas organizaciones y empresas han solicitado reforzar las defensas cibernéticas y establecer normativas. Se han dado a conocer medidas como la desaceleración temporal en el desarrollo de modelos avanzados por parte de OpenAI, un llamado conjunto de casi ciento treinta compañías para acelerar las prioridades de los defensores, y la creación de iniciativas gubernamentales, como la cámara de compensación de CISA y los planes de Corea del Sur. Asimismo, se proyectan modificaciones regulatorias en sectores como salud y finanzas mediante normativas que exigirán evaluaciones de riesgo anuales y el registro de todas las herramientas de inteligencia artificial utilizadas.