Nova York Apreende 12 Sites de Deepfakes de Celebridades

Justiça de Nova York Combate Sites Abusivos de Deepfake

A Promotoria do Distrito de Manhattan, em Nova York, anunciou a apreensão de 12 domínios de internet que hospedavam vídeos e imagens de deepfake sexual não consensuais, atingindo cerca de 1.200 vítimas. Essa ação representa a maior ofensiva legal já registrada contra plataformas que utilizam a inteligência artificial (IA) para criar e distribuir conteúdo falso e prejudicial. As vítimas incluem figuras públicas como influenciadores, atores, ativistas, atletas, músicos e políticos, em sua maioria mulheres, conforme relatou o portal Wired AI.

De acordo com o G1 Tecnologia, os sites derrubados promoviam 'pornografia deepfake de famosas', mostrando pessoas conhecidas em situações sexuais sem o seu consentimento. A técnica de deepfake, explicou o Olhar Digital, permite a alteração de fotos ou vídeos para substituir o rosto de uma pessoa em conteúdo modificado com o uso de inteligência artificial.

Impacto nas Vítimas e Investigação em Andamento

O promotor distrital Alvin Bragg enfatizou o impacto devastador desse tipo de crime.

"Essas violações horríveis de privacidade perseguem as vítimas em suas carreiras e vidas pessoais e causam um imenso impacto no bem-estar emocional e mental,"

declarou Bragg em um comunicado, instando potenciais vítimas a contatar o escritório de crimes cibernéticos da promotoria. As investigações sobre os responsáveis pelos sites e pelos uploads dos vídeos continuam em andamento, segundo informações da Wired AI.

As apreensões foram realizadas sob as leis de processo criminal de Nova York, marcando uma das ações mais abrangentes contra sites que hospedam vídeos deepfake explícitos desde o surgimento da tecnologia no final de 2017. Com o avanço da inteligência artificial, uma "indústria sombria" de sites, aplicativos e bots surgiu, projetados para "despir" fotos de mulheres ou criar vídeos sexuais gráficos, que se tornam cada vez mais realistas e podem ser gerados em segundos.

A Lenta Evolução da Legislação e a Força da IA Abusiva

Embora a tecnologia deepfake seja amplamente utilizada contra mulheres e meninas não famosas – muitas vezes compartilhada em grupos privados de redes sociais – celebridades têm se manifestado sobre os inúmeros danos de serem retratadas nesse tipo de conteúdo e os desafios de removê-lo. A Wired AI destacou que, embora as leis contra deepfakes tenham demorado a surgir, o Ato Americano "Take It Down" permite cada vez mais a remoção de imagens, com parte da lei autorizando a aplicação da lei a derrubar e apreender sites.

A Promotoria do Distrito de Manhattan não divulgou publicamente os nomes dos sites apreendidos. No entanto, antes do anúncio de Bragg, a Wired AI observou que várias das páginas iniciais dos sites foram substituídas por avisos de apreensão – "THIS DOMAIN HAS BEEN SEIZED" – na semana anterior. Os sites agora indicam que foram assumidos após um mandado de apreensão emitido por um tribunal da Suprema Corte do Estado de Nova York.

Vitória Significativa e Desafios Contínuos

Leonie Oehmig, pesquisadora do Institute for Strategic Dialogue (ISD) que estuda o ecossistema de criação de deepfakes, classificou as apreensões como uma "vitória significativa na luta contra imagens íntimas sintéticas não consensuais (NCII)". Oehmig ressaltou que a aplicação das leis estaduais demonstra que o conteúdo prejudicial pode ser combatido e que os sites apreendidos não parecem ser acessíveis mesmo com o uso de VPNs para tentar acessá-los de outras localidades. Segundo a pesquisadora, isso

"mostra que uma aplicação significativa e coordenada é alcançável mesmo onde a regulamentação permanece fragmentada entre as jurisdições".

Os sites provavelmente foram vistos milhões de vezes. Muitos utilizavam nomes que incluíam frases como "sex celebrity" ou prometiam "real deepfakes". Eles hospedavam vídeos falsos de algumas das celebridades mais famosas do mundo, com um deles afirmando que "rostos de várias atrizes são usados para deepfakes". Os vídeos podiam ter vários minutos de duração e incluir cenas explicitamente sexuais, muitas vezes trocando os rostos de celebridades ou figuras públicas em vídeos pornográficos já existentes. Versões arquivadas dos sites mostram que alguns vídeos foram assistidos dezenas de milhares de vezes, com um dos sites alegando estar online desde 2018, de acordo com a Wired AI.

Alvos Abrangentes: De Celebridades a Políticos

Benjamin Shultz, pesquisador-chefe do American Sunlight Project, uma organização sem fins lucrativos que documenta o abuso de deepfakes contra figuras políticas, afirmou que

"a maioria dos vídeos tinha a forma de filmes pornográficos reais, manipulados para mostrar os rostos dos alvos em vez dos atores originais".

Shultz, que encontrou alguns desses sites durante sua pesquisa, notou que muitos vídeos pareciam ser repostagens de conteúdo originalmente compartilhado no site MrDeepFakes, uma notória plataforma de deepfake que foi tirada do ar depois que seus criadores foram desmascarados por jornalistas.

Em pelo menos dois dos sites apreendidos, políticos eleitos tinham perfis contendo seus nomes e cargos, juntamente com uma grade de vídeos manipulados usando suas imagens, conforme detalhou Shultz. Pesquisas recentes de Shultz indicaram que 56 políticos europeus foram mencionados ou apareceram nos sites, incluindo 16 políticos dos EUA e dois do Reino Unido.

Apesar de Oehmig considerar as apreensões encorajadoras, ela alertou que muitas outras partes da indústria de deepfakes ainda causam sérios danos. Para uma intervenção eficaz, ela defende que é necessário

"mirar no ecossistema em múltiplos pontos, incluindo as ferramentas usadas para a criação de NCII sintéticas, a descoberta e promoção dessas, a hospedagem e infraestrutura técnica que as mantém online, e os sistemas de pagamento e afiliados que permitem aos operadores monetizá-las,"

conforme reportado pela Wired AI.