El Código de Conducta de IA de Microsoft establece los límites de los ciberataques, la cadena de mando y las restricciones de seguridad

Mi­cro­soft AI ha dado a co­no­cer un bo­rra­dor de có­di­go de con­duc­ta en­fo­ca­do en sus mo­de­los MAI, el cual es­ta­ble­ce nor­mas de se­gu­ri­dad orien­ta­das a re­gu­lar ca­pa­ci­da­des ci­ber­né­ti­cas ofen­si­vas, res­tric­cio­nes para agen­tes au­tó­no­mos y un pro­ce­so de re­vi­sión es­pe­cia­li­za­do. Entre las me­di­das prin­ci­pa­les se prohí­be que los mo­de­los ge­ne­ren có­di­go de ex­plo­ta­ción fun­cio­nal, he­rra­mien­tas de ata­que, téc­ni­cas para eva­dir de­fen­sas u orien­ta­cio­nes ope­ra­ti­vas que fa­ci­li­ten ofen­si­vas di­gi­ta­les, sin im­por­tar cómo se plan­tee la so­li­ci­tud. Estas li­mi­ta­cio­nes se con­si­de­ran res­tric­cio­nes ab­so­lu­tas que ni las em­pre­sas im­ple­men­ta­do­ras ni los usua­rios fi­na­les pue­den elu­dir.

A pesar de estas prohi­bi­cio­nes es­tric­tas, las di­rec­tri­ces per­mi­ten que los mo­de­los co­la­bo­ren en la­bo­res de­fen­si­vas le­gí­ti­mas y au­to­ri­za­das. Esto abar­ca ta­reas como la de­tec­ción de vul­ne­ra­bi­li­da­des, el aná­li­sis de soft­wa­re ma­li­cio­so, el de­sa­rro­llo y prue­ba de ex­ploits de con­cep­to, y la pro­vi­sión de ma­te­rial edu­ca­ti­vo ge­ne­ral sobre el fun­cio­na­mien­to de los ata­ques. Asi­mis­mo, el có­di­go re­gu­la cómo se ma­ne­jan las ins­truc­cio­nes ex­ter­nas, es­ta­ble­cien­do una ca­de­na de mando donde la au­to­ri­dad recae ex­clu­si­va­men­te sobre el có­di­go de con­duc­ta, las po­lí­ti­cas de las em­pre­sas ope­ra­do­ras y las pre­fe­ren­cias de los usua­rios in­di­vi­dua­les, res­tan­do va­li­dez a los con­te­ni­dos ex­ter­nos a menos que se de­le­guen ex­plí­ci­ta­men­te.