El último en lanzar un mensaje apocalíptico sobre la IA es el jefe de los servicios de inteligencia de China
El ministro de Seguridad del Estado de China ha llegado a la conclusión de que la IA podría ser perjudicial para el Partido Comunista, actualmente en el poder. Las opiniones de Chen Yixin, secretario del partido y ministro, aparecieron en la revista «China Cyberspace Magazine», la publicación insignia de la Administración del Ciberespacio de China (y de la que los lectores quizá recuerden que en su día publicó un artículo de Elon Musk). En opinión de Chen, «el campo de la IA se ha convertido en el principal campo de batalla de la competencia tecnológica mundial y en un nuevo escenario de rivalidad estratégica entre las grandes potencias». Su artículo también recoge las habituales quejas sobre las sanciones de EE. UU. y la posibilidad de que la IA se utilice con fines maliciosos para detectar y explotar vulnerabilidades de software y, a continuación, atacar infraestructuras importantes o robar secretos industriales y de Estado. OpenClaw y productos similares también preocupan al ministro, quien considera que este tipo de software presenta «problemas estructurales, como el control remoto de los permisos de gestión de dispositivos y la filtración de información confidencial de los usuarios». China también podría tener un problema de tipo PEBCAK*, ya que Chen considera que «algunos usuarios nacionales carecen de la concienciación suficiente en materia de seguridad, utilizan productos de IA extranjeros para procesar información sensible y exportan datos al extranjero, lo que da lugar a fugas de datos a gran escala desde el interior del país». Al ministro también le preocupa cómo la IA supone un desafío para el Partido Comunista de China. «La aplicación de la inteligencia artificial conlleva un gran número de incertidumbres para la gobernanza social y el orden público», observó. «La “caja negra” de los algoritmos y el “envenenamiento” de los datos pueden amplificar los sesgos sociales existentes. El uso indebido de la información personal durante el tratamiento de datos puede desencadenar una crisis de confianza por parte de los usuarios. La toma de decisiones automática del sistema plantea problemas a la hora de atribuir responsabilidades». También le preocupa que «el rápido desarrollo de la inteligencia artificial haya superado el marco tradicional de gobernanza tecnológica, lo que hace que las normas jurídicas, los principios éticos y los mecanismos de gobernanza existentes se queden con frecuencia rezagados en la práctica, dificultando la creación de un sistema eficaz de control y supervisión institucional». La respuesta que sugiere Chen es que China se adhiera a las palabras del presidente Xi Jinping y modernice el sistema y las capacidades de seguridad nacional del país, de modo que estén preparados para la IA. El ministro afirma que China debe «garantizar el control independiente de las tecnologías clave fundamentales, afianzar firmemente la soberanía tecnológica y lograr un círculo virtuoso y un progreso sinérgico entre el impulso a la innovación y la gobernanza de la seguridad». Esa postura sugiere más bien que Nvidia no va a volver a China a corto plazo, y que AMD probablemente también pueda dar por perdidas sus perspectivas de vender muchas GPU allí. Chen también aboga por «leyes y reglamentos específicos centrados en la investigación, el desarrollo, la aplicación y la supervisión de la tecnología de inteligencia artificial», además de mejoras en las normas y leyes «que abarquen toda la cadena de investigación y desarrollo tecnológico, implementación de aplicaciones, prevención y control de riesgos, y rendición de cuentas, centrándose en cuestiones destacadas como la seguridad de los algoritmos, la protección de datos, las normas éticas y los derechos de privacidad». Al día siguiente de la publicación del artículo de Chen, la Administración del Ciberespacio de China publicó la versión 3.0 del Marco de Gobernanza de la Seguridad de la IA del país. Dicho documento insta a China a «emplear activamente mecanismos institucionales que permitan controlar los riesgos, como los entornos de pruebas regulatorios, para dejar margen de error y corrección en el desarrollo de nuevas tecnologías y aplicaciones». China también tiene previsto «hacer todo lo posible por garantizar la seguridad de la IA» y «adoptar medidas oportunas para hacer frente a cualquier riesgo que vulnere los derechos e intereses legítimos de las personas, perjudique el interés público, amenace la seguridad nacional y ponga en peligro la supervivencia y el desarrollo de la humanidad». Esto contrasta bastante con la postura adoptada por el presidente de EE. UU., Donald Trump, quien el lunes calificó de «bulo» las preocupaciones sobre la seguridad de la IA y sugirió que «el único control o “barreras de seguridad” que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un coeficiente intelectual alto!), y EE. UU.».