Microsoft establece normas de seguridad y protección para sus modelos de IA

Microsoft AI ha dado a conocer el primer borrador de un manual de conducta dirigido a establecer normas sobre la creación y el comportamiento de sus modelos de inteligencia artificial. Este documento inicial se encuentra abierto a un proceso de consulta pública durante varias semanas, tras el cual se contemplan revisiones basadas en los comentarios recibidos para lanzar una versión perfeccionada que oriente el desarrollo tecnológico futuro. Actualmente, los sistemas vigentes de la empresa todavía no han sido entrenados bajo esta normativa en proceso de gestación.

El marco normativo está dirigido tanto a los equipos encargados del entrenamiento como a los usuarios, entidades operadoras, investigadores, autoridades gubernamentales y la ciudadanía en general. Su propósito es definir directrices de comportamiento que complementen las políticas y estándares de inteligencia artificial ya existentes en la compañía. La base conceptual de este manual prioriza que los sistemas funcionen bajo la dirección y supervisión humana, asegurando que operen dentro de límites estrictos y sirvan como instrumentos controlados por las personas.

Las reglas de seguridad incluyen restricciones innegociables orientadas a impedir que los modelos faciliten daños graves, abarcando áreas como armamento, ciberataques ofensivos, manipulación a gran escala, material de abuso infantil, deepfakes maliciosos, vigilancia ilimitada y actos violentos o terroristas, aunque se contemplan excepciones para labores defensivas y legales en ciberseguridad. Asimismo, los requisitos de control humano exigen que las tecnologías obedezcan las interrupciones o apagados, mantengan sus límites autorizados y sigan el principio de mínimo privilegio en el uso de herramientas.