O grupo brasileiroda lotofácilódio a mulheres que fabrica com IA imagens pornô falsas sob encomenda :da lotofácil

"Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosada lotofácil65 anos. Sóda lotofácillembrar da foto,da lotofácilter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu", ela conta à BBC News Brasil.

Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.

Em maio, Ana havia compartilhado um alerta: participantesda lotofáciluma comunidade no próprio Facebook estavam criando imagens pornô falsas a partirda lotofácilfotos das colegas, vizinhas ou parentes.

Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cenada lotofácilsexo.

Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas. São os antigos “photoshops” com capacidades multiplicadas.

A atriz Mel Maia,da lotofácil20 anos, foi recentemente alvoda lotofácilum vídeo manipulado que afirmava falsamente ser uma cenada lotofácilsexo entre ela e um homem apontado como integrante da facção criminosa Comando Vermelho.

Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo.

Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebookda lotofácilalgum momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadasda lotofácilnovo.

É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo agora: promover comunidadesda lotofácilpornô deepfake que funcionam dentro do aplicativoda lotofácilmensagens Telegram.

Foi assim com a página do Facebook na qual a imagemda lotofácilAna eda lotofácilmãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros.

Ana decidiu entrar no grupo e acompanhar o que acontecia por lá.

'Mulher é um ser maligno'

A reportagem da BBC News Brasil presenciouda lotofáciltempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partirda lotofácilfotosda lotofácilmulheres que diziam ser suas conhecidas.

Depoisda lotofácilalgum tempo, quem tinha feito o pedido recebia a imagem manipuladada lotofácilvolta.

Uma das mensagens mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com iluminação —da lotofáciluma mulher vestida.

A seguir, apareceu uma versão digitalmente modificadada lotofácilque ela aparecia nua.

Participante 1 - Quem é?

Participante 2 - Mãeda lotofácilum amigo meu kkkk

Nos diálogos travados no grupo, os participantes demonstravam ter uma posturada lotofácilforte hostilidadeda lotofácilrelação a mulheres.

Participante 3 - Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho

Participante 4 - Ou apanhando

Participante 5 - Mulher é um ser maligno e também é o ser mais falso da humanidade. Hojeda lotofácildia elas são verdadeiros demônios

Outro membro da comunidade falada lotofácilforma obsessiva sobre a irmã, aborda a possibilidadeda lotofácilabusá-la e pede que façam um pornô deepfake dela.

Alguns também se gabamda lotofácilapreciar gore — vídeos e fotosda lotofácilsituaçõesda lotofácilextrema violência, quase sempre reais.

Mesmoda lotofácilcomunidades abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupoda lotofácilconstranger mulheres é celebrado.

Ana mostra uma páginada lotofácilmemes, que se descreve comoda lotofácil"humor negro" e reúne 65 mil usuários, onde se ironiza o receioda lotofácilmulheresda lotofácilpostarem livremente suas fotos.

"Apenas imagine: [...] mulheres passam a ter medoda lotofácilpostar qualquer foto na internet, pois o robô da p...ria está sempre à espreita", disse um dos participantes.

Outro comentou: "*mulheres passam a ter medoda lotofácilpostar qualquer foto na internet* Objetivo concluído ✔️"

À BBC News Brasil, o Telegram e a Meta, dona do Facebook, disseram que monitoram constantemente a circulaçãoda lotofácilconteúdo prejudicialda lotofácilseus aplicativos e atuam quando necessário.

Tanto nestes gruposda lotofácilmemes do Facebook, que são acessíveis sem qualquer restrição, quanto nas comunidades fechadas do Telegram são frequentes as menções a termos e temas da “machosfera”, como são chamados os grupos e fóruns onlineda lotofácilque os participantes debatem sobre uma suposta perda do poder masculino na sociedade atual.

Há as subdivisões dentro da machosfera, mas o discursoda lotofácilódio — ou ao menosda lotofácilressentimento — contra as mulheres está presenteda lotofácilboa parte delas. Os grupos incel e redpill estão entre os principais.

O nome incel vem da expressãoda lotofácilinglês "involuntary celibates" (celibatários involuntários,da lotofáciltradução livre do inglês).

São adolescentes ou jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online para encontrar uma comunidade.

Muitos alegam que perderam a "loteria genética" (consideram não ser o "protótipo"da lotofácilhomem popular) e afirmam que estão "condenados" ao desprezo pelo sexo feminino.

Diferentemente dos incels, os redpills falamda lotofáciltravar relacionamentos com mulheres, mas sustentam que é necessária uma atitudeda lotofácildominação eda lotofácildesconfiançada lotofácilrelação a elas.

Prega-se um retorno aos temposda lotofácilque o domínio masculino era indiscutível na sociedade.

Redpill (pílula vermelha,da lotofáciltradução livre) é uma referência aos filmes da franquia Matrix,da lotofácilque o protagonista escolhe entre tomar a pílula azul, que permite seguirda lotofácilum "mundoda lotofácililusões", e a vermelha, para encarar a "realidade".

Ana fala com o 'admin'

Ana conta que os administradores, ou "admins", da comunidade no Telegram ofereciam, por R$ 15, acesso a um "grupo VIP com outros tiposda lotofácilconteúdo".

Ela mostrou à reportagem capturasda lotofáciltelada lotofáciluma conversa que teve com um delesda lotofácilque ela demonstrou interesseda lotofácilacessar o grupo.

O administrador, então, forneceu duas chavesda lotofácilpix embaralhadas (aleatórias). Ana, porém, demorou alguns minutos para efetuar a transação.

Ele voltou então a procurá-la e passou uma nova chave pix: seu númeroda lotofácilcelular.

Ana diz que, a partir dessa informação, encontrou informações que levavam a dados associados a um homem do interiorda lotofácilGoiás.

Ela decidiu levar essas informações à polícia. Junto com Ana, outras vítimasda lotofácilpornô deepfake denunciaram seus casos.

Todas se reuniramda lotofácilum grupoda lotofácilWhatsApp para discutir estratégias sobre como fazer os responsáveis pela comunidade pornô deepfake serem responsabilizados pela Justiça.

Entre as participantes, há a mãeda lotofáciluma menorda lotofácilidade que foi alvoda lotofácildeepfake.

Outra é Fernanda*,da lotofácil22 anos. Ela é cosplayer (veste fantasiasda lotofácilpersonagens famosos, principalmente dos animes japoneses) e teve uma fotoda lotofáciluma festada lotofácilHalloween alterada.

Fernanda diz que já sofre com agressões online quando não responde a abordagensda lotofácilinteressados na cultura cosplayer.

Após a manipulação dada lotofácilfoto, a preocupação aumentou.

"Você começa a ficar com medos do tipo 'será que eu devo sair com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto?", diz.

"Porque eles acreditam que, por causa da roupa, eles têm direitoda lotofácilfazer isso. Tanto que um dos comentários no grupo deles do Telegram foi 'para não ser vítima do nosso grupo, basta não tirar foto com decote'."

Ela decidiu tornar privados seus perfis, que incluíam as fotosda lotofácilcosplay, e diz que se tornou "reclusa" nas redes sociais desde então.

Poucas respostas da polícia

Ana, Fernanda e outras vítimas que moramda lotofácilSão Paulo levaram capturasda lotofáciltelada lotofácilconversas e imagens postadas nos grupos no Facebook e no Telegram à Delegaciada lotofácilDelitos Cometidos por Meios Eletrônicos, divisão criada no finalda lotofácil2020.

Elas dizem que, após uma esperada lotofácilquatro horas, foram informadas que a denúncia seria registrada, mas que a delegacia só investiga casosda lotofácilfraudes financeiras ou violaçãoda lotofácilredesda lotofácildados e que outros crimes cometidos por meios eletrônicos devem ser apurados pelas delegacias mais próximasda lotofácilonde as vítimas moram.

Ana e Fernanda afirmam que, nas respectivas delegacias, foram informadas que os policiais ainda aguardavam o registro feito pela Delegaciada lotofácilDelitos Cometidos por Meios Eletrônicos.

Até o momentoda lotofácilpublicação desta reportagem, nenhuma das vítimas diz ter recebido qualquer sinalizaçãoda lotofácilque suas denúncias estão sendo apuradas.

A Secretariada lotofácilSegurança Pública do Estadoda lotofácilSão Paulo afirmou que "a instituição está à disposição da vítima, eda lotofáciloutras mulheres que sofreram este tipoda lotofácilcrime, para formalizar o registro do boletimda lotofácilocorrência e investigar os fatos".

A secretaria informou ainda que "[Fernanda] foi chamada para comparecer à unidade para ser ouvida e fornecer informações que possam auxiliar na elucidação do crime" e que, no casoda lotofácilAna, a delegacia local "prossegue com as diligências para esclarecer os fatos".

A secretaria não esclareceu por que a Delegaciada lotofácilDelitos Cometidos por Meios Eletrônicos investiga apenas fraudes financeiras ou violaçãoda lotofácilredesda lotofácildados, mas afirmou que "todas as delegacias do Estado possuem estrutura e estão aptas para registrar e apurar crimes praticados pela internet".

Lei não tratada lotofácil'deepfake'

A lei brasileira ainda não prevê punições específicas para a produçãoda lotofácildeepfakes.

Segundo Patricia Peck Pinheiro, advogada especialistada lotofácildireito digital, uma falsificaçãoda lotofácilconotação sexual por meios tecnológicos é analisada pela Justiça como "ataque à honra, intimidade e imagem da pessoa, que são bens protegidos pelo ordenamento jurídico".

Casos assim, explica Peck, podem ser enquadrados como crimeda lotofácilinjúria ou punidos por meio da legislação que tratada lotofácilcrimes sexuais.

Há dois projetosda lotofácillei no Congresso, umda lotofácilautoria do senador Chico Rodrigues (PSB-RR) e outro da deputada federal Jandira Feghali (PCdoB-RJ), que propõem aumentoda lotofácilpenas quando há usoda lotofácildeepfake.

"Como não temos uma lei específica e o assunto fica envoltoda lotofácilvárias leis esparsas. Com certeza é benéfica a existência desses projetos", diz Peck.

Mas ela adverte que a legislação já não consegue alcançar a velocidade das mudanças tecnológicas. A advogada diz ser necessária "uma atuação preventiva e orientativa por parte do Estado".

"É preciso poder agir rápido, para acolher a vítima e realizar a investigação, que também demanda usoda lotofácilrecursos técnicos para se obter as provas necessárias para aplicação da lei e punição exemplar dos infratores."

O projetoda lotofácilFeghali já foi aprovado na Câmara dos Deputados e, agora, tramita no Senado.

A propostada lotofácilRodrigues foi apensada, ou seja, passou a integrar o projetoda lotofácillei que regulamenta a inteligência artificial no Brasil,da lotofácilrelatoria do senador Eduardo Gomes (PL-TO). Rodrigues tenta reverter isso, para que seu projeto seja analisado isoladamente.

Em 18da lotofáciljunho, a votação do relatórioda lotofácilregulamentação da inteligência artificial no país foi adiada até que sejam realizadas mais cinco audiências públicas para debater o projeto.

Deepfake evolui rápido

A pesquisadora Agnes E. Venema, especializada no tema e afiliada à Universidadeda lotofácilMalta, diz que ferramentasda lotofácilproduçãoda lotofácildeepfakes têm ficado progressivamente melhores.

No dia a dia, avalia Venema, será cada vez mais difícil diferenciar um conteúdo falsoda lotofáciloutro que é real.

"Isso é algo que vem ocorrendo nos últimos dez anos. O deepfake feitoda lotofácil2024 é um deepfake mais avançadoda lotofácilrelação ao que foi feitoda lotofácil2020", afirma a pesquisadora.

Ainda que peritos consigam apontar uma manipulação, o dano provocado pela circulação destes conteúdos é grave, diz Venema, porque as pessoas ficam inclinadas a aceitar o deepfake como verdadeiro se o conteúdo "confirma" suas crenças.

"Mesmo deepfakes de péssima qualidade podem causar grandes prejuízos. Há uma mentalidade 'se tem fumaça, tem fogo' nas pessoas."

Para Venema, "plataformas tecnológicas precisam ser responsabilizadas".

"O pesoda lotofácilremover material desse tipo não deve ficarda lotofácilcima dos ombros da vítima, mas sim das plataformas digitais."

Procurada pela BBC News Brasil, a Meta, responsável por Facebook, Instagram e WhatsApp, afirmou que revisa as publicaçõesda lotofácilsuas plataformas por meioda lotofácilferramentas que usam inteligência artificial e também com o apoioda lotofácilequipes humanas para detectar, analisar e remover conteúdos que violem seus padrões.

"Estamos sempre aprimorando nossos esforços para manter nossas plataformas seguras e também incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos”, disse a empresa por meioda lotofácilnota à reportagem.

O Telegram afirmou que, "desdeda lotofácilcriação, tem moderado ativamente conteúdo prejudicial emda lotofácilplataforma, incluindo pornografia ilegal".

"Moderadores usam uma combinaçãoda lotofácilmonitoramento proativo e dos relatosda lotofácilusuários para remover milhõesda lotofácilitensda lotofácilconteúdo prejudicial todos os dias", disse a empresa.

Enquanto isso, Ana afirma que não aceita mais solicitaçõesda lotofácilamizade no Facebook e no Instagram e que fechou o acesso às suas fotos pessoais mesmo para seus contatos nestas redes.

Ela pensada lotofácilcontratar um advogado com o dinheiro que vem juntando com seu trabalho como bartender para acelerar a busca por justiça.

"Estou totalmente disposta a isso. É uma foto com a minha mãe, uma pessoa muito importante para mim", diz ela.

"Esse tipoda lotofácilcoisa está dentroda lotofáciluma bolha ainda. Quando a bolha explodir, espero que essas pessoas dos grupos sejam responsabilizadas."

*Os nomes das vítimas foram trocados para preservarda lotofácilidentidade.