Anthropic advierte que los modelos de IA podrían autorreplicarse pronto en televisores inteligentes y dispositivos IoT
Anthropic advierte que los modelos de IA pequeños podrían estar a meses de distancia de autorreplicarse a través de televisores inteligentes con poca seguridad y otros dispositivos conectados a Internet.
Sus investigaciones sugieren que los futuros gusanos de IA podrían ejecutarse en hardware de consumo en lugar de depender de un centro de datos, lo que dificultaría su desactivación mediante un único servicio central. Según una investigación publicada el 12 de octubre por William Zhou y Daniel Freeman, los agentes de IA podrían ser capaces de instalar y ejecutar modelos en máquinas desconocidas.
Los investigadores subrayaron que no han demostrado la existencia de un replicador malicioso completo. Sus hallazgos muestran avances hacia esa amenaza, no un brote activo de malware de IA.
Los investigadores ejecutaron el modelo Gemma4-26B-A4B en 15 decodificadores Android TV de marcas genéricas con un coste aproximado de 55 dólares cada uno. Cada dispositivo contaba con 4 GB de RAM y almacenaba una parte del modelo. En conjunto, los dispositivos alcanzaron una velocidad de 0,39 tokens por segundo, demostrando que el hardware económico puede soportar un modelo grande, aunque a una velocidad muy reducida.
Este enfoque utiliza la inferencia distribuida, en la que varias máquinas comparten la tarea de ejecutar un modelo de IA. En lugar de alojar todo el modelo en un solo dispositivo, los investigadores repartieron sus capas entre los distintos decodificadores…