Os vídeoscrianças mortas feitos com inteligência artificial que horrorizam famílias no TikTok:

Pais enlutados manifestaram repulsa por uma tendência macabra do TikTokque inteligência artificial é usada para criar vídeos que retratam crianças vítimasassassinato.

Os vídeos – feitos sem o consentimento dos familiares – mostram versões toscamente animadascrianças, algumas delas bebês, contando como foram mortas.

Desde abril, muitos desses vídeos gerados por computador foram postados no TikTok, embora a empresa tenha anunciado a proibiçãoversõesIAmenoresidademarço.

No entanto, uma investigação da BBC encontrou evidências que indicam que pode haver confusão entre os funcionários do TikTok sobre a política da plataforma.

Um moderadorconteúdo do TikTok disse à BBC que quatro meses após a proibição a empresa ainda não o havia informado sobre a mudança nas regras.

Alguns vídeosvítimas permaneceram na plataforma por vários meses, outros receberam milhõesvisualizações.

Familiares enlutadosvários países falaram sobre as versõesIAseus entes queridos falecidos que apareceram online.

A baronesa Beeban Kidron, membro independente da Câmara dos Lordes do Parlamento britânico, diz que os vídeos podem ser particularmente perturbadores para as famílias enlutadas porque apresentam simulações dos seus familiares falecidos contandoprópria história.

"Se você é alguém que estava ligado a essa criança, especialmente um dos pais ou um membro da família, é uma agressão, uma agressão emocional", disse ela.

'Agressão das piores'

Não demorou muito para que esses vídeos começassem a viralizar e os parentesalgumas das crianças mortas começassem a se manifestar. Uma das primeiras foi uma canadense chamada Amélie Lemieux.

Em julho2020, suas filhas – Romy, 6, e Norah, 11 – foram assassinadas por seu ex-marido, que depois se suicidou.

Em abril deste ano, Lemieux ficou horrorizada quando recebeu um TikTok que apresentava uma versão feita com IANorah falando sobre os assassinatos.

"É uma agressão das piores que você possa imaginar", disse Lemieux.

"Não consegui assistir até o final, e meu irmão também não. Ele estava gritando para que parasse."

Amélie Lemieux estava especialmente preocupada com o fatoque suas sobrinhas e sobrinhos pudessem encontrar aleatoriamente o vídeoseu primo morto enquanto navegavam pelo TikTok.

Embora muitas pessoas tenham denunciado o vídeo ao aplicativo, ele permaneceu online. Eventualmente, depois que Lemieux deu uma sérieentrevistas relatando o quão perturbada ficou com o vídeo, a conta anônima que o postou foi excluída.

Amélie Lemieux não conseguiu descobrir quem criou o vídeo, mas está chocada com as ações.

"É incrivelmente chocante alguém usar algo tão perturbador, algo que nos deixará incompletos pelo resto das nossas vidas", disse ela.

"Tudo o que eles querem são visualizações, curtidas, compartilhamentos. E as pessoas que deixam comentários. Pessoalmente, não posso perdoar isso."

Nova tecnologia

A criação destes vídeos foi possível graças à crescente acessibilidade onlinesoftwaresIA.

Agora é possível criar e animar facilmente uma figura humana básica e fornecer um script com as falas, que serão reproduzidas com uma voz gerada por computador.

Alguns dos rostos nos vídeosvítimas não se parecem com a pessoa real. Mas outros são baseadosfotos genuínas.

As pessoas que fazem esses vídeos tendem a tentar permanecer anônimas. Mas a BBC identificou um criador como um estudanteLondres chamado Ritul.

Em seu canal no YouTube ele tem promovido o que chamavídeos"contaçãohistórias" como formaatrair rapidamente seguidores no TikTok.

"Ganhei milhares e milharesseguidores postando vídeos contando histórias apenas usando IA", disse eleum vídeo. "Ganhei 47.000 seguidores, e isso foi apenasmenostrês semanas."

A BBC entroucontato com Ritul, mas ele não quis comentar o caso. Sua conta no TikTok foi excluída.

Os vídeos do TikTok precisam chamar a atençãosegundos ou os usuários continuarão a rolar. Por isso, criadores como Ritul se concentraramfazer vídeos sobre os casos mais extremos oumaior visibilidade.

As históriasalgumas crianças têm sido objetomúltiplos vídeosvários idiomas, incluindo português, espanhol, francês, alemão, italiano e polonês.

Ao longoum períododois meses, a BBC descobriu 170 vídeos diferentes do TikTok apresentando versõesIAJames Bulger, o menino britânicodois anos que foi assassinado por duas crianças mais velhasMerseyside, Inglaterra,1993.

Resposta do TikTok

O fenômeno virou manchete na Grã-Bretanhajulho, quando a mãeJames, Denise Fergus, disse a um jornal que os vídeos com imagensseu filho eram "mais que doentios".

O TikTok realizou uma remoçãomassa dos vídeos e emitiu um comunicado que dizia: "Não há lugarnossa plataforma para conteúdo perturbador desta natureza. Continuamos a remover conteúdo desta natureza à medida que o encontramos".

Os vídeosJames removidos incluíam doisvietnamita que, somados, tiveram quatro milhõesvisualizações.

A BBC conversou com um moderadorconteúdo do TikTok no Vietnã, que concordouser entrevistado sob condiçãoanonimato.

Ele disse que duas semanas após a remoção dos vídeos a empresa ainda não havia informado oficialmente que esse tipoconteúdo estava proibido.

Ele disse à BBC que acredita que os vídeos foram liberados pelas regras do TikTok, que permitem que sobreviventesabuso compartilhem suas histórias.

Então, os funcionários do TikTok não são informados claramente sobre qual é realmente a política da empresa? O TikTok não respondeu especificamente a esse ponto quando abordamos a empresa para comentar.

Mas deixou claro que o moderador errou ao sugerir que esses vídeos poderiam ser permitidos na plataforma como experiênciassobreviventes – porque são imagens geradas por computadorcrianças mortas,vezexperiências genuínassobreviventes.

Ainda é fácil encontrar esse tipovídeo no aplicativo. Mas o TikTok diz que sempre foi muito aberto sobre o fatoque não consegue monitorar todo o conteúdo disponível.

Reportagem adicionalThuong Le da BBC News Vietnã