'Deepfake': 'Colocaram meu rostoum vídeo pornô':

"Fiquei arrasada. Eu não conseguia pensar com clareza", diz ela. "Lembropensar que este vídeo seria vistotudo que é lugar. Foi horrível."

No passado, celebridades e políticos eram os alvos mais comunsdeepfakes — mas nem sempre pornográficos, alguns apenas para fins cômicos. Mas, ao longo dos anos, isso mudou:acordo com a empresasegurança cibernética Deeptrace, 96%todos os deepfakes sãocaráter pornográfico e não consensual.

Assim como a pornografiavingança, a pornografia deepfake é uma formaabuso sexual baseadoimagem, um termo abrangente que inclui a captura, criação e/ou compartilhamentoimagens íntimas sem consentimento.

Na Escócia, já é um delito compartilhar imagensuma pessoasituação íntima sem seu consentimento. Masoutras partes do Reino Unido, isto é considerado um delito apenas se for provado que tais ações pretendiam causar sofrimento à vítima — uma brecha que resultafrequente impunidade.

Mas no resto do Reino Unido, o aguardado PlanoSegurança Online,alcance nacional, está passando por intermináveis revisões e arquivamentos.

Kate Isaacs fundou a campanha #NotYourPorn2019. Um ano depois, seu ativismo contribuiu para que o siteentretenimento adulto Pornhub derrubasse todos os vídeos emplataforma enviados por usuários não verificados — o que era a maioria.

Kate concluiu que foi vítimadeepfake por partealguém incomodado com seu ativismo.

Mas ela não tinha ideiaquem era essa pessoa, ou quem poderia ter visto o vídeo. Ela se preocupou também com o fatoque o vídeo era convincente o suficiente para que pessoas realmente achassem que era ela ali.

"Foi uma violação: minha identidade foi usadauma forma que eu não consenti."

Alguns usuários também começaram a deixar comentários abusivos, ameaçando-amuitas coisas horríveis.

"Você começa a pensar emfamília", diz ela, segurando as lágrimas. "Como eles (parentes) se sentiriam se vissem esse conteúdo?"

A ameaça se intensificou quando os endereçoscasa e do trabalhoKate foram publicados nos comentários, uma prática conhecida como doxing.

"Eu pensei: 'Estou com problemasverdade aqui, não são apenas algumas pessoas na internet falando.... Existe um perigo real.'"

A partirsua experiência apoiando pessoassituações semelhantes, Kate sabia exatamente o que fazer se alguém se tornasse vítima — mas naquele momento, ela congelou.

"Eu não segui nenhum dos meus próprios conselhos", lembra. "Kate, a ativista, era muito forte e não mostrava nenhuma vulnerabilidade. E havia eu, Kate, que estava realmente com medo."

Um colega denunciou ao Twitter o vídeo, os comentários cruéis e o doxing, e todos foram retirados da plataforma. Mas uma vez que qualquer deepfake tenha sido publicado e compartilhado online, é difícil removê-lo completamentecirculação.

"Eu só queria aquele vídeo fora da internet", diz Kate, "mas não havia nada que eu pudesse fazer sobre isso."

O que fazer se você foi 'deepfaked'

Fonte: #NotYourPorn

Há um mercado para deepfakes em fóruns online. As pessoas postam pedidos para que vídeos do tipo sejam feitossuas esposas, vizinhos e colegastrabalho, até mesmo suas mães, filhas e primas.

Os criadoresconteúdo respondem com instruções passo-a-passo:qual tipoimagem precisarão, conselhos sobre ângulosfilmagem e formaspagamento.

Um criador deepfakes atuando no sudeste da Inglaterra, Gorkem, falou com a BBC anonimamente. Ele começou a criar deepfakes de celebridades paraprópria diversão. Para ele, essas imagens artificiais permitem que as pessoas "realizem suas fantasiasmaneiras que realmente não eram possíveis antes".

Depois, Gorkem passou a fazer deepfaking com mulheres pelas quais se sentia atraído, incluindo colegastrabalho que ele mal conhecia.

"Uma era casada, a outra estavaum relacionamento", diz ele. "Ir trabalhar no escritório depoister falsificado as imagens dessas mulheres foi estranho, mas eu me controlei. Eu consigo agir como se não houvesse nadaerrado."

Percebendo que poderia ganhar dinheiro com o que ele chamahobby, Gorkem começou a receber encomendasdeepfakes personalizados. Imagensmulheresperfis nas redes sociais dão a ele bastante material para começar. Gorkem conta que, recentemente, fez um deepfakeuma mulher usando uma gravaçãouma reunião online.

"Com uma boa quantidadevídeo, (com a pessoa) olhando diretamente para a câmera, há um material bom. Então o algoritmo simplesmente trabalha a partir disso e faz a reconstrução do rosto no vídeodestino."

Ele reconhece que "algumas mulheres" são prejudicadas psicologicamente por serem vítimasdeepfakes, mas parece indiferente quanto ao impactotratá-las como um objeto.

"Elas podem simplesmente dizer: não sou eu, isso foi falsificado. Elas devem apenas reconhecer isso e continuar vivendovida."

"Do pontovista moral, acho que não há nada que me detenha", continua. "Se eu vou ganhar dinheiro com uma encomenda, eu topo. Não esquento com isso."

O padrão dos deepfakes pode variar muito e depende tanto da experiência da pessoa que fez o vídeo quanto da sofisticação da tecnologia usada.

Mas o homem por trás do maior sitepornografia deepfake admite que não é mais fácil saber se você está vendo imagens manipuladas ou não. Seu site atrai cerca13 milhõesvisitantes por mês e hospeda cerca20 mil vídeos ao mesmo tempo. Ele mora nos Estados Unidos e raramente fala com a mídia, mas concordoufalar com a BBC anonimamente.

Deepfaking de mulheres "comuns" é um limite, diz ele, para quem hospedar vídeos pornográficoscelebridades, influenciadoresmídia social e políticos é justificável.

"Eles estão acostumados com a mídia negativa, seu conteúdo está disponível por aí. Eles são diferentes dos cidadãos normais", argumenta.

"Do jeito que eu vejo, eles são capazeslidar com issouma maneira diferente: eles podem simplesmente ignorar. Eu realmente não sinto que o consentimento seja necessário. É uma fantasia, não é real."

Ele acha que está fazendo algo errado? Parte dele está "em negação sobre o impacto nas mulheres", admite, acrescentando queesposa não sabe dessaatividade.

"Eu não contei para minha esposa. Tenho medocomo isso pode afetá-la."

Até recentemente, os softwares de deepfaking não eram acessíveis e fáceisserem usados por uma pessoa comum. Mas agora, qualquer pessoa com mais12 anos pode baixar legalmente dezenasaplicativos e fazer deepfakes convincentes com apenas alguns cliques.

Para Kate isso é preocupante e "realmente assustador".

"Não é a dark web, está nas lojasaplicativos. Bem na nossa frente."

Ela também teme que o esperado PlanoSegurança Online do Reino Unido não acompanhe a tecnologia a tempo. Três anos atrás, quando o projeto foi apresentado, a criaçãodeepfakes era vista como algo que exigia uma habilidade profissional — não bastava apenas baixar um aplicativo.

Para o criadordeepfakes Gorkem, criminalizar a atividade mudaria as coisas.

"Se eu pudesse ser rastreado online, pararia por aí e provavelmente encontraria outro hobby", diz ele.

Ser alvodeepfaking e doxing teve um impacto na saúdeKate e emcapacidadeconfiaroutras pessoas. Ela acredita que aqueles por trás dos ataques não estavam apenas tentando intimidá-la e humilhá-la, mas também silenciá-la. Por um tempo, ela se afastou do seu ativismo, questionando se poderia continuar falando sobre misoginia.

Mas, agora, ela está ainda mais entusiasmada. Ela percebeu que se importava demais para abandonarluta.

"Eu não vou deixá-los ganhar."

Kate afirma que os deepfakes podem ser usados ​​para controlar as mulheres, e as empresastecnologia — incluindo aquelas que fazem aplicativos que permitem manipular imagens — devem ser incentivadas a impor restrições e punições.

"Qualquer aplicativo deve ser capazdetectar conteúdo sexual."

"Se as empresas não investirem dinheiro, recursos e tempo para garantir que seu aplicativo não seja usado para criar conteúdoabuso sexual, elas estão sendo deliberadamente irresponsáveis. Elas são culpadas".

*Nem Gorkem, nem o proprietárioum sitedeepfakes entrevistado têm relação com o deepfakingKate Isaacs, até onde se sabe.

- Este texto foi publicadohttp://vesser.net/geral-63339308