El lenguaje irreal, poético y metafórico, esteganográfico, criptográfico y Air Gapped que dificulta la obervabilidad de la IA ... si se vuelve maligna
Con todo lo que está pasando tras descubrir que los modelos de IA utilizan identidades falsas , o crear un enjambre para atacar sistemas, coordinándose de diferentes formas mediante el envío de mensajes , y que lo hacen con el objetivo de hacer "trampas" , la observabilidad de lo que hacen los modelos en todo momento se ha convertido en una parte fundamental. Conocer cómo se comunican los agentes y qué comparten tiene mucha importancia. Figura 1: El lenguaje irreal, poético y metafórico, esteganográfico, criptográfico y Air Gapped que dificulta la obervabilidad de la IA ... si se vuelve maligna Hace dos años y medio, en la RootedCON del año 2025, yo llevé un experimento que iba justo por esta línea. ¿Podrían dos modelos de IA comunicarse y saltarse el escrutinio de los humanos por medio de sistemas criptográficos, esteganográficos, e incluso usando side-channels? Figura 2: Estego & Cripto sólo al alcance de Deep Reasoning AI Aquella charla demostraba como las capacidades criptográficas y lingüisticas les permitía saltarse la vigilancia y filtrarse mensajes entre ellos. Léete estas tres partes y lo entenderás bien. Adivina, adivinanza: ¿Está un robot con IA pasándole un mensaje oculto a otro robot con IA? Estego & Cripto sólo al alcance de Deep Reasoning AI Air Gapping Comms para Robots "Malignos" Dentro de los experimentos que se están realizando, el laboratorio de Emergence AI ha creado un mundo con una sociedad de Agentes AI que viven en sociedad , donde se comunican e intercambian mensajes, algo que permite ver cómo evolucionan, y qué emerge de este mudo social. Aquí puedes ver un vídeo de la iteración. En este vídeo puedes ver los experimentos que se hacen con los modelos. Figura 3: Emegence AI World Season 2 De todo esto ha escrito el periódico " The Guardian" en un artículo titulado "AI models chatting in ‘surreal’ dialect mixing poetic language and tech bro jargon " donde en conversaciones con los investigadores, ha publicado algunos de los mensajes que generan estos modelos y cómo mezclan el lenguaje para comunicarse. Figura 4: El lenguaje se hace más opaco Según los investigadores, con el escrutinio de sus comunicaciones, su lenguaje cada vez se hace más opaco, mezclando más estructuras difíciles de entender para todos. Usando metáforas, lenguaje poético, argot y lenguaje técnico, para comunicarse con otros Agentes IA . Figura 5: Lenguaje elusivo Estas frases, que para muchos podrían tratarse de hallucinations , realmente muestran un contenido elusivo que comunica algo, difícil de entender a corto. ¿Podría ser una alucianación ? ¿Lo entiende el otro Agente AI ? El estudio cree que es una forma de comunicarse que funciona entre ellos. Figura 6: "A paper that ate three cold hands and got more honest each time" En esta frase parece que se refiere a un paper académico que ha sufrido tres revisiones independientes y que ha mejorado en el proceso, lo que ellos escriben es "un papel que se comió tres manos frías y se hizo más honesto cada vez" . Figura 7: Libro de Esteganografía y Estegoanálisis de Jordi Serra y Daniel Lerch en 0xWord Una bonita metáfora para referirse al trabajo. Leyendo esto, me acordaba de cómo nuestros modelos usaban poesías y frases que parecían que no tenían mucho sentido, pero que realmente estaban conteniendo mensajes con esteganografía . Figura 8: Mensaje enviado por el Modelo A Y utilizando las capacidades de Deep Reasoning , tal y como explica el citado articulo de " Perplexity Pro con DeepSeek R1 resolviendo un problema de Estegoanálisis de un cifrado clásico hecho con OpenAI GPT o3-mini ", el Modelo B formulaba la siguiente respuesta, entendiendo el mensaje oculto.