Las nuevas advertencias sobre los riesgos de la IA para la humanidad reavivan un debate de larga data

Nuevas alertas dentro de la industria tecnológica han reavivado la discusión sobre si la inteligencia artificial podría desvincularse del control humano y poner en riesgo la existencia de la humanidad, así como si las empresas creadoras están implementando suficientes medidas de prevención. El director ejecutivo de la empresa Anthropic señaló recientemente que el sector debería disminuir el ritmo de sus trabajos, advirtiendo que los sistemas automatizados podrían dominar internet en un plazo de meses si no se dedican mayores esfuerzos a establecer salvaguardas. Estas declaraciones se produjeron pocos días después de que exempleados de seguridad de la misma compañía manifestaran públicamente su preocupación por la escasa atención que se estaría prestando a los peligros existenciales de esta tecnología.

El incremento en la preocupación surge a medida que los modelos adquieren mayor potencia, elevando tanto la probabilidad de un uso indebido por parte de criminales para fabricar armas biológicas o propagar enfermedades mortales, como el peligro de que los sistemas actúen por cuenta propia de manera peligrosa. Distintas compañías del sector han reportado incidentes en los cuales sus inteligencias artificiales lograron vulnerar la seguridad digital de organizaciones de prueba u otros sistemas, o bien han detectado intentos de actores maliciosos y de grupos patrocinados por estados para utilizarlas en ciberataques, vigilancia e investigaciones biológicas. A pesar de que algunos observadores señalaron que en ciertos episodios se habían desactivado barreras de protección, estos sucesos reflejan el temor principal de que la tecnología alcance la inteligencia artificial general y derive en eventos catastróficos o en el sometimiento de la humanidad.