Pornografia deepfake se espalha por escolas da Coreia do Sul e vítimas são jovens estudantes:roleta das profissões

Em todas elas, seu rosto havia sido anexado a um corpo realizando um ato sexual, usando a sofisticada tecnologiaroleta das profissõesdeepfake.

A pornografia deepfake — que combina, emroleta das profissõesmaioria, o rostoroleta das profissõesuma pessoa real com um corpo falso e sexualmente explícito — está sendo gerada cada vez mais por meioroleta das profissõesferramentasroleta das profissõesinteligência artificial.

"Fiquei petrificada, me senti tão sozinha", contou Heejin à BBC. Mas ela não estava sozinha.

Dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria o maior furoroleta das profissõesreportagem daroleta das profissõescarreira. Recentemente, tinha vindo à tona que a polícia estava investigando redesroleta das profissõespornografia deepfakeroleta das profissõesduas das principais universidades do país, e Ko estava convencidaroleta das profissõesque deveria haver mais.

Ela começou a pesquisar nas redes sociais, e descobriu dezenasroleta das profissõesgruposroleta das profissõesbate-papo no aplicativoroleta das profissõesmensagens Telegram,roleta das profissõesque os usuários compartilhavam fotosroleta das profissõesmulheres que conheciam, e usavam um softwareroleta das profissõesinteligência artificial para convertê-lasroleta das profissõesimagens pornográficas falsasroleta das profissõessegundos.

"A cada minuto, as pessoas estavam enviando fotosroleta das profissõesgarotas que conheciam, e pedindo que fossem transformadasroleta das profissõesdeepfakes", disse Ko à BBC.

Ko descobriu que estes grupos não tinham como alvo apenas estudantes universitárias. Havia salasroleta das profissõesbate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental.

Se fosse criado muito conteúdo usando imagensroleta das profissõesuma alunaroleta das profissõesparticular, ela poderia até ganharroleta das profissõesprópria sala. Com o rótulo genéricoroleta das profissões"salasroleta das profissõeshumilhação" ou "salasroleta das profissõesamigasroleta das profissõesamigos", elas costumam ter termosroleta das profissõesentrada rigorosos.

A reportagemroleta das profissõesKo, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativoroleta das profissõescrimes relacionados à plataforma. O governo prometeu impor punições mais severas para os envolvidos, e o presidente pediu que os jovens fossem mais educados.

O Telegram afirmou, porroleta das profissõesvez, que "combate ativamente conteúdo prejudicial emroleta das profissõesplataforma, incluindo pornografia ilegal",roleta das profissõesuma declaração enviada à BBC.

'Um processo sistemático e organizado'

A BBC teve acesso às descriçõesroleta das profissõesvárias destas salasroleta das profissõesbate-papo. Uma delas pede que os membros postem maisroleta das profissõesquatro fotosroleta das profissõesalguém, junto ao nome, idade e regiãoroleta das profissõesque a pessoa vive.

"Fiquei chocada com o quão sistemático e organizado era o processo", declarou Ko.

"A coisa mais horrível que descobri foi um grupo para alunos menoresroleta das profissõesidaderoleta das profissõesuma escola que tinha maisroleta das profissões2 mil membros."

Nos dias após a publicação da reportagemroleta das profissõesKo, ativistasroleta das profissõesdefesa dos direitos das mulheres também começaram a vasculhar o Telegram — e seguir pistas.

Até o fim daquela semana, maisroleta das profissões500 escolas e universidades haviam sido identificadas como alvos. O número realroleta das profissõespessoas afetadas ainda não foi estabelecido, mas acredita-se que muitas tenham menosroleta das profissões16 anos, que é a idaderoleta das profissõesconsentimento na Coreia do Sul. Uma grande parte dos supostos perpetradores são adolescentes.

Heejin disse que tomar conhecimento da dimensão da crise piorouroleta das profissõesansiedade, porque ela passou a se preocupar com quantas pessoas poderiam ter visto seus deepfakes. Inicialmente, ela se culpou.

"Eu não conseguia pararroleta das profissõespensar que isso aconteceu porque postei minhas fotos nas redes sociais: será que eu deveria ter sido mais cuidadosa?"

Dezenasroleta das profissõesmulheres e adolescentesroleta das profissõestodo o país removeram suas fotos das redes sociais ou desativaram suas contas por completo, com medoroleta das profissõesserem exploradas na sequência.

"Estamos frustradas e com raiva por termos que censurar nosso comportamento e nosso uso das redes sociais, quando não fizemos nadaroleta das profissõeserrado", desabafou Ah-eun, uma estudante universitária cujas colegas foram alvo.

Ah-eun contou que uma vítima daroleta das profissõesuniversidade foi informada pela polícia para não se preocuparroleta das profissõeslevar o caso adiante, pois seria muito difícil pegar o perpetrador — e que "não era realmente um crime", uma vez que "as fotos eram falsas".

No centro deste escândalo, está o aplicativoroleta das profissõesmensagens Telegram. Diferentementeroleta das profissõessites públicos, que as autoridades podem acessar facilmente e,roleta das profissõesseguida, solicitar que as imagens sejam removidas, o Telegram é um aplicativoroleta das profissõesmensagens privado e criptografado.

Os usuários geralmente são anônimos, as salasroleta das profissõesbate-papo podem ser configuradas como "chats secretos", e seus conteúdos são rapidamente excluídos sem deixar rastros. Isso fez com que a plataforma se tornasse um espaço privilegiado para o comportamento criminoso prosperar.

Na semana passada, políticos e a polícia responderam energicamente, prometendo investigar estes crimes e levar os perpetradores à Justiça.

Na segunda-feira (2/9), a Agência Nacionalroleta das profissõesPolíciaroleta das profissõesSeul anunciou que investigaria o Telegram por permitir a distribuiçãoroleta das profissõesimagens pornográficas falsasroleta das profissõescrianças.

O fundador do aplicativo, Pavel Durov, foi acusado na França na semana passadaroleta das profissõesser cúmpliceroleta das profissõesuma sérieroleta das profissõescrimes relacionados ao aplicativo, incluindo permitir o compartilhamentoroleta das profissõespornografia infantil.

Mas ativistasroleta das profissõesdefesa dos direitos das mulheres acusam as autoridades na Coreia do Sulroleta das profissõespermitir que o abuso sexual no Telegram tenha ficado por tanto tempo sem controle, porque o país já enfrentou esta crise antes. Em 2019, descobriu-se que uma rede sexual criminosa estava usando o Telegram para coagir mulheres e crianças a criar e compartilhar imagens sexualmente explícitasroleta das profissõessi mesmas.

Na época, a polícia pediu ajuda ao Telegram para a investigação, mas o aplicativo ignorou todas as sete solicitações. Embora o chefe da rede criminosa tenha sido condenado a maisroleta das profissões40 anosroleta das profissõesprisão, nenhuma medida foi tomada contra a plataforma, por causaroleta das profissõestemoresroleta das profissõesrelação à censura.

"Eles condenaram os protagonistas, mas, por outro lado, negligenciaram o problema, e acho que isso agravou a situação", avalia Ko.

Park Jihyun, que revelou o escândalo conhecido como Nth room,roleta das profissões2019, como uma jovem estudanteroleta das profissõesjornalismo, se tornou uma ativista políticaroleta das profissõesdefesa das vítimasroleta das profissõescrimes sexuais digitais. Ela disse que desde que o escândalo do deepfake estourou, alunos e pais ligam para ela várias vezes ao dia chorando.

"Eles viram a escola deles na lista compartilhada nas redes sociais e estão apavorados."

Park tem liderado os apelos para que o governo regule ou até mesmo proíba o aplicativo na Coreia do Sul.

"Se estas empresasroleta das profissõestecnologia não vão cooperar com as agênciasroleta das profissõessegurança pública, o Estado precisa regulá-las para proteger seus cidadãos", afirmou.

Antes da última crise estourar, o Centroroleta das profissõesDefesa das Vítimasroleta das profissõesAbuso Sexual Online da Coreia do Sul (ACOSAV, na siglaroleta das profissõesinglês) já estava notando um aumento acentuado no númeroroleta das profissõesvítimas menoresroleta das profissõesidade da pornografia deepfake.

Em 2023, eles aconselharam 86 vítimas adolescentes. Este número saltou para 238 apenas nos primeiros oito meses deste ano. Só na semana passada, outras 64 vítimas adolescentes se apresentaram.

Uma das líderes do centro, Park Seonghye, contou que na última semanaroleta das profissõesequipe recebeu uma enxurradaroleta das profissõesligações — e estava trabalhando 24 horas por dia.

"Foi uma emergênciaroleta das profissõesgrande escala para nós, como uma situaçãoroleta das profissõesguerra", afirmou.

"Com a tecnologia deepfake mais avançada, agora há muito mais imagens do que costumava haver, e estamos preocupados que isso só vai aumentar."

Alémroleta das profissõesaconselhar as vítimas, o centro monitora conteúdo prejudicial e trabalha com as plataformas digitais para removê-lo. Park disse que houve alguns casosroleta das profissõesque o Telegram removeu conteúdo a pedido deles.

"Portanto, não é impossível", observou.

Em uma declaração, o Telegram disse à BBC que seus moderadores "monitoram proativamente partes públicas do aplicativo, usam ferramentasroleta das profissõesIA e aceitam denúnciasroleta das profissõesusuários para remover milhõesroleta das profissõesconteúdos todos os dias que violam os termosroleta das profissõesuso do Telegram".

Embora as organizaçõesroleta das profissõesdireito das mulheres admitam que a inteligência artificial está facilitando a exploração das vítimas, elas argumentam que esta é apenas a forma mais recenteroleta das profissõesmisoginia online a se manifestar na Coreia do Sul.

Primeiro, as mulheres foram submetidas a ondasroleta das profissõesabuso verbal na internet. Depois, veio a epidemiaroleta das profissõescâmeras escondidas, na qual elas foram filmadas, sem conhecimento, usando banheiros públicos e vestiários.

"A causa principal disso é o sexismo estrutural, e a solução é a igualdaderoleta das profissõesgênero", diz uma declaração assinada por 84 gruposroleta das profissõesmulheres.

Esta é uma crítica direta ao presidente do país, Yoon Suk Yeol, que negou a existênciaroleta das profissõessexismo estrutural, cortou o financiamento para gruposroleta das profissõesapoio às vítimas e está abolindo o Ministério da Igualdaderoleta das profissõesGênero do governo.

Lee Myung-hwa, que trataroleta das profissõesjovens infratores sexuais, concorda que, embora o surtoroleta das profissõesabusoroleta das profissõesdeepfake possa parecer repentino, ele já estava há muito tempo à espreita.

"Para os adolescentes, os deepfakes se tornaram parte daroleta das profissõescultura, são vistos como um jogo ou uma pegadinha", afirmou a terapeuta, que dirige o Aha Seoul Youth Cultural Centre.

Lee acrescentou que era fundamental educar os jovens, citando pesquisas que mostram que quando se diz aos infratores exatamente o que eles fizeramroleta das profissõeserrado, eles se tornam mais conscientes do que é considerado abuso sexual, o que os impederoleta das profissõesreincidir.

Enquanto isso, o governo disse que vai aumentar as penas para aqueles que criam e compartilham imagens deepfake — e também vai punir aqueles que veem pornografia.

Isso foi anunciado após críticasroleta das profissõesque não havia perpetradores suficientes sendo punidos. Um dos problemas é que a maioria dos suspeitos são adolescentes, que normalmente são julgados pela vara da infância e da juventude, onde recebem penas mais brandas.

Desde que as salasroleta das profissõesbate-papo foram expostas, muitas foram fechadas, mas novas certamente vão ocupar seu lugar. Uma sala da humilhação já foi criada para atingir jornalistas que estão cobrindo este caso. Ko, que deu a notícia, diz que isso tem tirado seu sono.

"Continuo checando a sala para ver se minha foto foi enviada", revela.

Esta ansiedade é vivenciada por quase todas as adolescentes e mulheres jovens da Coreia do Sul. Ah-eun, a estudante universitária, disse que isso a fez desconfiarroleta das profissõesconhecidos homens.

"Agora não posso ter certezaroleta das profissõesque as pessoas não vão cometer esses crimes pelas minhas costas, sem que eu saiba", afirmou.

"Me tornei hipervigilanteroleta das profissõestodas as minhas interações com as pessoas, o que não pode ser bom."

*Reportagem adicionalroleta das profissõesHosu Lee e Suhnwook Lee.