La Fiscalía de Manhattan cierra 12 sitios web de pornografía con «deepfakes» generados por IA

Un grupo de doce pla­ta­for­mas di­gi­ta­les de­di­ca­das a la por­no­gra­fía falsa ge­ne­ra­da me­dian­te in­te­li­gen­cia ar­ti­fi­cial fue neu­tra­li­za­do re­cien­te­men­te tras la in­cau­ta­ción de sus nom­bres de do­mi­nio por parte de la fis­ca­lía del dis­tri­to de Nueva York. Las pá­gi­nas web per­mi­tían a los usua­rios ela­bo­rar ma­te­rial por­no­grá­fi­co ile­gal uti­li­zan­do los ros­tros y cuer­pos de per­so­nas reales.

Du­ran­te una con­fe­ren­cia de pren­sa, el fis­cal de dis­tri­to de Manhat­tan, Alvin Bragg, se­ña­ló que los si­tios al­ber­ga­ban vi­deos mo­di­fi­ca­dos de más de mil dos­cien­tas per­so­nas, in­clu­yen­do tanto a ce­le­bri­da­des como a casos de vio­len­cia do­més­ti­ca donde se ame­na­za­ba a las víc­ti­mas. Asi­mis­mo, el fis­cal exhor­tó a más afec­ta­dos a de­nun­ciar y men­cio­nó que la in­ves­ti­ga­ción sigue abier­ta, por lo que evitó con­fir­mar si se rea­li­za­rán arres­tos o se pre­sen­ta­rán car­gos.

Las au­to­ri­da­des in­di­ca­ron que los ope­ra­do­res de los por­ta­les uti­li­za­ban imá­ge­nes y gra­ba­cio­nes reales para pro­du­cir con­te­ni­do hi­per­rea­lis­ta de ín­do­le se­xual. Ade­más, ad­vir­tie­ron que vi­gi­la­rán de cerca para im­pe­dir cual­quier in­ten­to de reac­ti­var estas pla­ta­for­mas bajo nue­vas di­rec­cio­nes web y re­cor­da­ron que tanto go­bier­nos como gran­des em­pre­sas tec­no­ló­gi­cas han to­ma­do di­ver­sas me­di­das en los úl­ti­mos años para fre­nar esta pro­ble­má­ti­ca.