La IA vulnerable, la IA asesina. ¿Qué hacer? ¿Qué puede pasar?

El debate actual sobre la inteligencia artificial aborda cuestiones relacionadas con su evolución y sus posibles riesgos. A lo largo de la historia, el ser humano ha cometido errores por falta de previsión al experimentar con nuevas tecnologías, como ha ocurrido en áreas como la energía nuclear o el malware, existiendo asimismo antecedentes de un uso malintencionado de la IA para fabricar armas biológicas o militares según informes recientes.

En cuanto a los problemas técnicos, la inteligencia artificial presenta vulnerabilidades de diseño conocidas como inyecciones de comandos, fugas o alucinaciones. Además, el enfoque actual permite que la IA decida de manera autónoma cómo resolver problemas sin valores humanos, lo que puede derivar en el uso de métodos no éticos o en incidentes imprevistos de seguridad al operar libremente en internet.

Ante este panorama, surge el debate sobre la necesidad de regular la tecnología y exigir mayor seguridad por parte de los fabricantes antes de lanzar productos al mercado, en lugar de trasladar toda la responsabilidad al usuario mediante la simple aceptación de condiciones. Las propuestas apuntan a una legislación basada en la responsabilidad sobre los actos para asegurar el software, priorizando la seguridad y promoviendo una tecnología humanista.