Stolen AI Reasoning Could Help China Build Cheaper Rivals
Los sistemas de inteligencia artificial avanzados suelen incluir interfaces de programación de aplicaciones (API) que permiten a los desarrolladores conectar aplicaciones especializadas con el motor de IA. Como parte de su funcionamiento, estas respuestas frecuentemente devuelven los pasos de razonamiento seguidos por el modelo para mantener la continuidad contextual. Para evitar superar la capacidad de la ventana de contexto, el historial acumulado se comprime en un resumen mediante un proceso de compactación.
Ciertos atacantes han utilizado estas puertas de entrada para extraer información y aplicar técnicas orientadas a apropiarse de los procesos de razonamiento de los modelos propietarios. Tras una investigación inicial, una entidad llamada Xint descubrió un método conocido como contrabando de compactación para evadir las defensas implementadas inicialmente por los proveedores. Este procedimiento consiste en codificar el razonamiento de un modelo dentro de una compactación a través de múltiples fases para que un modelo secundario descifre la información de seguridad, logrando así vulnerar las medidas de mitigación que bloqueaban la transferencia directa de razonamiento entre diferentes modelos.
La sustracción de estos secretos de razonamiento facilita la destilación, que es el uso de dichos datos para construir de manera económica modelos de inteligencia artificial rivales. Informes recientes indican que diversas organizaciones chinas han extraído cantidades masivas de tokens e interacciones a partir de modelos occidentales punteros para entrenar sus propias tecnologías. De este modo, el aprovechamiento indebido de estas capacidades de razonamiento ha contribuido al desarrollo de alternativas competidoras.