Desde los «hacks» hasta las armas biológicas, el uso indebido de la biotecnología está ahora por todas partes

La compañía Anthropic ha publicado un informe detallado sobre las distintas formas en que su servicio de inteligencia artificial, Claude, ha sido explotado a lo largo de un período de ocho meses. El documento detalla múltiples incidentes en los que la herramienta fue utilizada por actores maliciosos para llevar a cabo actividades cibercriminales, espionaje patrocinado por estados, operaciones de desinformación y, de manera preocupante, intentos de crear armas biológicas. Entre los casos documentados figuran hackers rusos vinculados a operaciones estatales que emplearon la plataforma para realizar reconocimientos y vulnerar redes gubernamentales en Ucrania y otras naciones europeas, así como grupos criminales que la utilizaron en diversas fases de sus campañas de extorsión.

Aunque la empresa defensora afirma haber interrumpido estas actividades maliciosas mientras ocurrían y destaca la eficacia de sus barreras de seguridad, la amplitud de los casos expuestos genera preocupación sobre la posibilidad de que existan usos indebidos que no hayan sido detectados. Además, la situación se complica al considerar el impacto de herramientas competidoras y modelos de código abierto con menores restricciones, lo que proyecta un escenario complejo respecto al control de la tecnología.

El artículo original no aporta más detalle sobre las implicaciones técnicas exactas de los métodos de evasión utilizados por los usuarios maliciosos de la inteligencia artificial.