Nova York derruba sites usados para criar deepfakes ilegais de famosas

Sites derrubados por Nova York promoviam 'pornografia deepfake de famosas'

Reprodução

A Promotoria do Distrito de Manhattan, em Nova York, anunciou nesta segunda-feira (14) a derrubada de 12 sites usados para criar vídeos com deepfakes sexuais que mostram pessoas famosas sem consentimento.

🔎 Deepfake é uma técnica que permite mostrar o rosto de uma pessoa em fotos ou vídeos alterados com ajuda de inteligência artificial. Para criar o material editado, é preciso ter uma imagem verdadeira e modificá-la com um dos vários aplicativos criados com essa finalidade.

🗒️ Tem alguma sugestão de reportagem? Mande para o g1

Segundo autoridades, os investigados produziram material adulterado com o rosto de 1.200 pessoas reais a partir de ferramentas de inteligência artificial.

As vítimas são, em sua maioria, mulheres conhecidas pelo público, como atrizes, políticas, atletas, musicistas, defensoras de causas sociais e influenciadoras digitais.

Agora no g1

O esquema envolvia o compartilhamento de vídeos e fotos hiper-realistas que mostravam versões de IA de pessoas praticando atos sexuais.

A investigação apontou que os sites anunciavam explicitamente a oferta de "pornografia deepfake de famosas" e serviam para publicar e vender esses e outros registros íntimos não consensuais.

O promotor distrital de Manhattan, Alvin Bragg Jr., afirmou que os "empresas lucram com a publicação e a disseminação de imagens e vídeos sexuais não consensuais, gerados ou não por inteligência artificial".

"Essas violações hediondas de privacidade perseguem as vítimas em suas carreiras e vidas pessoais, causando um impacto imenso em seu bem-estar emocional e mental", declarou.

A investigação sobre esses e outros sites está em andamento. A Promotoria do Distrito de Manhattan disse que pretende continuar o monitoramento dos sites para impedir que eles voltem ao ar com outro nome.