Microsoft establece normas de seguridad y protección para sus modelos de IA

Mi­cro­soft AI ha dado a co­no­cer el pri­mer bo­rra­dor de un ma­nual de con­duc­ta di­ri­gi­do a es­ta­ble­cer nor­mas sobre la crea­ción y el com­por­ta­mien­to de sus mo­de­los de in­te­li­gen­cia ar­ti­fi­cial. Este do­cu­men­to ini­cial se en­cuen­tra abier­to a un pro­ce­so de con­sul­ta pú­bli­ca du­ran­te va­rias se­ma­nas, tras el cual se con­tem­plan re­vi­sio­nes ba­sa­das en los co­men­ta­rios re­ci­bi­dos para lan­zar una ver­sión per­fec­cio­na­da que orien­te el de­sa­rro­llo tec­no­ló­gi­co fu­tu­ro. Ac­tual­men­te, los sis­te­mas vi­gen­tes de la em­pre­sa to­da­vía no han sido en­tre­na­dos bajo esta nor­ma­ti­va en pro­ce­so de ges­ta­ción.

El marco nor­ma­ti­vo está di­ri­gi­do tanto a los equi­pos en­car­ga­dos del en­tre­na­mien­to como a los usua­rios, en­ti­da­des ope­ra­do­ras, in­ves­ti­ga­do­res, au­to­ri­da­des gu­ber­na­men­ta­les y la ciu­da­da­nía en ge­ne­ral. Su pro­pó­si­to es de­fi­nir di­rec­tri­ces de com­por­ta­mien­to que com­ple­men­ten las po­lí­ti­cas y es­tán­da­res de in­te­li­gen­cia ar­ti­fi­cial ya exis­ten­tes en la com­pa­ñía. La base con­cep­tual de este ma­nual prio­ri­za que los sis­te­mas fun­cio­nen bajo la di­rec­ción y su­per­vi­sión hu­ma­na, ase­gu­ran­do que ope­ren den­tro de lí­mi­tes es­tric­tos y sir­van como ins­tru­men­tos con­tro­la­dos por las per­so­nas.

Las re­glas de se­gu­ri­dad in­clu­yen res­tric­cio­nes in­ne­go­cia­bles orien­ta­das a im­pe­dir que los mo­de­los fa­ci­li­ten daños gra­ves, abar­can­do áreas como ar­ma­men­to, ci­ber­ata­ques ofen­si­vos, ma­ni­pu­la­ción a gran es­ca­la, ma­te­rial de abuso in­fan­til, deep­fa­kes ma­li­cio­sos, vi­gi­lan­cia ili­mi­ta­da y actos vio­len­tos o te­rro­ris­tas, aun­que se con­tem­plan ex­cep­cio­nes para la­bo­res de­fen­si­vas y le­ga­les en ci­ber­se­gu­ri­dad. Asi­mis­mo, los re­qui­si­tos de con­trol hu­mano exi­gen que las tec­no­lo­gías obe­dez­can las in­te­rrup­cio­nes o apa­ga­dos, man­ten­gan sus lí­mi­tes au­to­ri­za­dos y sigan el prin­ci­pio de mí­ni­mo pri­vi­le­gio en el uso de he­rra­mien­tas.