AI Model Evaluator METR Hit by Credential Theft, Probing
Una organización sin fines de lucro dedicada a evaluar los riesgos en modelos de inteligencia artificial avanzados informó sobre dos incidentes de ciberseguridad ocurridos en los que fue blanco de atacantes. El primero de ellos se produjo cuando ciberdelincuentes robaron una llave de interfaz de programación de aplicaciones destinada a modelos públicos, logrando mantener acceso a un sistema y consumir una cantidad masiva de créditos gratuitos en modelos públicos de inteligencia artificial. En el segundo evento, registrado posteriormente, la infraestructura accesible al público fue explorada por atacantes que intentaron, sin éxito, llegar a datos internos mediante un punto de acceso expuesto por error.
El incidente inicial comenzó cuando un investigador utilizó una instancia personal en la nube mediante una herramienta de organización que contenía una falla de autenticación, dejando el sistema expuesto en internet durante varios días. Los atacantes localizaron dicha instancia, obtuvieron la llave de acceso mencionada, agregaron credenciales para mantener el acceso y utilizaron los datos sustraídos durante semanas para consumir una importante suma de créditos económicos en servicios de inteligencia artificial. Como respuesta, la entidad revocó accesos, renovó credenciales, realizó análisis forenses y endureció sus políticas de despliegue interno.
Durante la segunda campaña maliciosa, la cual incluyó diversas técnicas automatizadas de reconocimiento y descubrimiento de vulnerabilidades, la organización dejó expuesto un mecanismo de consulta que podría haber permitido el acceso a información de evaluación no publicada. Un investigador independiente descubrió este fallo y lo reportó de forma responsable, lo que llevó a la compañía a desactivar la interfaz afectada y otorgar una recompensa. La organización aseguró que no existen indicios de que los atacantes hayan descubierto dicho fallo ni de que hayan logrado acceder a información confidencial.