Los hackers utilizaron Claude para extraer información confidencial de 1,8 millones de aplicaciones de Android

La empresa Anthropic informó que varios grupos de piratas informáticos, incluidos actores patrocinados por estados y motivados por el lucro financiero vinculados a China y Rusia, intentaron utilizar su modelo de inteligencia artificial Claude con fines maliciosos. Entre los usos indebidos detectados se encuentran operaciones de influencia y ciberataques, estafas, vigilancia, desarrollo de armas biológicas y convencionales, y operaciones de destilación de modelos.

Durante este periodo, las acciones disruptivas de Anthropic afectaron actividades relacionadas con el colectivo ShinyHunters. Un presunto integrante de este grupo desplegó un sistema para recolectar credenciales mediante la descarga y descompilación masiva de millones de aplicaciones Android, examinándolas en busca de secretos ocultos. Asimismo, el mismo actor automatizó la obtención de correos y tokens de GitHub, operó una tienda digital que suplantaba a la policía nacional de Francia y empleó agentes de inteligencia artificial para acelerar robos de datos e infiltraciones corporativas.

Por otro lado, la compañía identificó al grupo de espionaje ruso "Midnight Blizzard", el cual aprovechó Claude para automatizar la creación de software malicioso, campañas de phishing, operaciones de comando y control, y la exfiltración de información en ataques contra entidades gubernamentales, de defensa y diplomáticas. Del mismo modo, un grupo de origen chino denominado GTG-10007 utilizó la inteligencia artificial para coordinar tareas ofensivas, realizar reconocimientos en redes extranjeras y desarrollar exploits que posteriormente fueron empleados contra diversas organizaciones internacionales.

Como respuesta a estas amenazas, Anthropic bloqueó las cuentas involucradas, interrumpió el uso perjudicial de su tecnología, reforzó sus medidas de seguridad y filtros de detección, y notificó a las autoridades, socios de la industria y afectados.