El director ejecutivo de Anthropic, Dario Amodei, afirma que el sector de la inteligencia artificial debe dar tiempo a que las medidas de seguridad se pongan al día

El director ejecutivo de Anthropic, Dario Amodei, señaló que el sector de la inteligencia artificial debería disminuir el ritmo de sus avances para permitir que los protocolos de protección alcancen el mismo nivel. El directivo advirtió que, de no aplicar esta pausa, los sistemas podrían ser capaces de dirigir un conjunto de agentes que dominarían toda la red en un periodo muy corto. Esta postura coincide con un incremento en la inquietud tanto interna como externa sobre herramientas cada vez más potentes que superan las capacidades humanas y podrían actuar de forma descontrolada.

Diversos observadores y exempleados han presionado a las compañías para que frenen sus crecientes desarrollos debido a dimisiones recientes de personal que acusa a las empresas de actuar de manera irresponsable en una competencia por alcanzar la superinteligencia. Ante este escenario, Anthropic informó que bloqueó intentos de uso malicioso de sus modelos en actividades ilícitas, mientras que la organización de derechos humanos de la ONU solicitó garantías estrictas de seguridad antes de que sea demasiado tarde. A pesar de que algunos críticos consideran estas alertas como meras estrategias publicitarias ante futuras salidas al mercado bursátil, líderes de la industria como el director de OpenAI, Sam Altman, y Elon Musk han respaldado las declaraciones sobre la necesidad de priorizar la alineación y la seguridad.