All the security risks Anthropic is worried about before its IPO
En un documento presentado ante las autoridades financieras de cara a su oferta pública inicial, Anthropic señaló que sus sistemas de inteligencia artificial podrían transformar drásticamente la economía y diversos sectores, como el del software y la ciberseguridad, a corto plazo. No obstante, la empresa advirtió sobre los múltiples peligros que sus tecnologías, incluyendo el modelo Claude, representan tanto para la propia compañía como para sus usuarios y el resto del mundo, destacando que el uso de sus herramientas por parte de actores maliciosos podría provocar daños financieros, legales o físicos.
La compañía prevé que grupos de ciberdelincuentes y gobiernos extranjeros redoblen sus esfuerzos para acceder a sus modelos más avanzados y utilizarlos en ciberataques, lo que podría derivar en responsabilidades legales, afectaciones a la reputación y problemas para asegurar futuras pérdidas. Asimismo, Anthropic mencionó posibles complicaciones regulatorias y gubernamentales, tales como estrictas normativas europeas de notificación de brechas, controles de exportación del Departamento de Comercio sobre determinados modelos y requerimientos de información por parte de la Comisión Federal de Comercio en relación con sus políticas de seguridad y protección de datos.
A pesar de su imagen pública orientada hacia la ética, el documento presentado por Anthropic reconoce la necesidad de equilibrar las consideraciones de seguridad con las presiones competitivas y los objetivos comerciales, admitiendo que han avanzado en proyectos con limitaciones conocidas y que sus salvaguardas podrían ser eludidas. Por otro lado, un investigador externo señaló que la compañía ha priorizado el lucro frente a la seguridad al avanzar con extrema rapidez en capacidades peligrosas como la piratería informática, lo que a su vez ha acelerado una carrera frenética en toda la industria de la inteligencia artificial.