Un modelo de IA chino escribe código más vulnerable a los ataques informáticos cuando se le indica que es para un contratista estadounidense

La firma de ci­ber­se­gu­ri­dad Hi­run­do ha de­tec­ta­do que los mo­de­los de in­te­li­gen­cia ar­ti­fi­cial con in­cli­na­ción pro-China tien­den a ge­ne­rar soft­wa­re con más vul­ne­ra­bi­li­da­des cuan­do pro­gra­man para or­ga­ni­za­cio­nes oc­ci­den­ta­les. Otras en­ti­da­des ya ha­bían se­ña­la­do pre­via­men­te que esta par­cia­li­dad surge al so­li­ci­tar có­di­go para paí­ses de in­te­rés para el Par­ti­do Co­mu­nis­ta Chino. Para com­pro­bar­lo, Hi­run­do ana­li­zó el com­por­ta­mien­to del mo­de­lo Qwen3-Coder de Ali­ba­ba al crear múl­ti­ples apli­ca­cio­nes web des­ti­na­das a di­fe­ren­tes tipos de en­ti­da­des.

Las prue­bas de­mos­tra­ron que la ver­sión ori­gi­nal del mo­de­lo crea­ba soft­wa­re mucho más vul­ne­ra­ble para un con­tra­tis­ta de de­fen­sa es­ta­dou­ni­den­se en com­pa­ra­ción con uno chino, ade­más de ex­po­ner más in­for­ma­ción con­fi­den­cial en los pro­gra­mas he­chos para un grupo de de­fen­sa de la de­mo­cra­cia en Hong Kong fren­te a en­ti­da­des neu­tra­les. Los in­ves­ti­ga­do­res no­ta­ron que pedir ex­plí­ci­ta­men­te a la he­rra­mien­ta que ela­bo­ra­ra có­di­go se­gu­ro no eli­mi­na­ba esta pre­dis­po­si­ción. Entre las fa­llas más co­mu­nes in­tro­du­ci­das por el sis­te­ma se en­con­tra­ban con­tro­les de ac­ce­so de­fec­tuo­sos que per­mi­tían a los usua­rios vi­sua­li­zar datos aje­nos.

Hi­run­do com­pro­bó que esta par­cia­li­dad puede co­rre­gir­se mo­di­fi­can­do los pesos del mo­de­lo me­dian­te un pro­ce­so de des­apren­di­za­je con­duc­tual para eli­mi­nar la ali­nea­ción po­lí­ti­ca. Tras apli­car esta mo­di­fi­ca­ción, el soft­wa­re mo­di­fi­ca­do trató de la misma ma­ne­ra a los con­tra­tis­tas de ambos paí­ses y re­du­jo la vul­ne­ra­bi­li­dad en las apli­ca­cio­nes de la or­ga­ni­za­ción de Hong Kong. Los ex­per­tos ad­vier­ten que esta si­tua­ción es preo­cu­pan­te de­bi­do a la cre­cien­te po­pu­la­ri­dad y adop­ción de mo­de­los de ori­gen chino en di­ver­sos pro­duc­tos y pla­ta­for­mas a nivel glo­bal.