La Fiscalía de Manhattan cierra 12 sitios web de pornografía con «deepfakes» generados por IA

Un grupo de doce plataformas digitales dedicadas a la pornografía falsa generada mediante inteligencia artificial fue neutralizado recientemente tras la incautación de sus nombres de dominio por parte de la fiscalía del distrito de Nueva York. Las páginas web permitían a los usuarios elaborar material pornográfico ilegal utilizando los rostros y cuerpos de personas reales.

Durante una conferencia de prensa, el fiscal de distrito de Manhattan, Alvin Bragg, señaló que los sitios albergaban videos modificados de más de mil doscientas personas, incluyendo tanto a celebridades como a casos de violencia doméstica donde se amenazaba a las víctimas. Asimismo, el fiscal exhortó a más afectados a denunciar y mencionó que la investigación sigue abierta, por lo que evitó confirmar si se realizarán arrestos o se presentarán cargos.

Las autoridades indicaron que los operadores de los portales utilizaban imágenes y grabaciones reales para producir contenido hiperrealista de índole sexual. Además, advirtieron que vigilarán de cerca para impedir cualquier intento de reactivar estas plataformas bajo nuevas direcciones web y recordaron que tanto gobiernos como grandes empresas tecnológicas han tomado diversas medidas en los últimos años para frenar esta problemática.