Como redes sociais direcionam imagens7games aplicativo para baixar paraviolência para meninos: 'Fica marcado na mente':7games aplicativo para baixar para

Ele diz que ele e um colega decidiram analisar o que os algoritmos do aplicativo estavam recomendando aos usuários do Reino Unido, incluindo alguns jovens7games aplicativo para baixar para16 anos.

Pouco tempo antes, ele havia trabalhado para a Meta, empresa concorrente que é dona do Facebook e do Instagram — outra plataforma que Cai usa.

Quando Andrew analisou conteúdo do TikTok, ficou assustado ao descobrir como postagens com conteúdo7games aplicativo para baixar paraviolência e pornografia, e promovendo opiniões misóginas, estavam sendo mostradas a alguns adolescentes, ele contou ao programa Panorama, da BBC.

Ele diz que,7games aplicativo para baixar parageral, adolescentes do sexo feminino recebiam recomendações7games aplicativo para baixar paraconteúdo muito diferente com base7games aplicativo para baixar paraseus interesses.

O TikTok e outras empresas7games aplicativo para baixar pararede social usam ferramentas7games aplicativo para baixar parainteligência artificial (IA) para remover a grande maioria do conteúdo prejudicial e sinalizar outros conteúdos para que sejam analisados por moderadores humanos, independentemente do número7games aplicativo para baixar paravisualizações que tiveram.

Mas as ferramentas7games aplicativo para baixar paraIA não conseguem identificar tudo.

Andrew Kaung afirma que durante o tempo7games aplicativo para baixar paraque trabalhou no TikTok, todos os vídeos que não fossem removidos ou repassados para moderadores humanos pela inteligência artificial — ou denunciados por outros usuários aos moderadores — só seriam analisados ​​novamente manualmente se atingissem um determinado patamar7games aplicativo para baixar paraaudiência.

Ele diz que,7games aplicativo para baixar paradado momento, este patamar foi definido como 10 mil visualizações ou mais.

Ele temia que isso significasse que alguns usuários mais jovens estivessem sendo expostos a vídeos prejudiciais.

A maioria das principais empresas7games aplicativo para baixar pararede social permite que pessoas com 13 anos ou mais se inscrevam.

O TikTok afirma que 99% do conteúdo que remove por violar suas regras é retirado por inteligência artificial ou moderadores humanos antes7games aplicativo para baixar paraalcançar 10 mil visualizações.

A plataforma também diz que realiza investigações proativas7games aplicativo para baixar paravídeos com menos visualizações do que isso.

Quando trabalhou na Meta entre 2019 e dezembro7games aplicativo para baixar para2020, Andrew Kaung conta que havia um problema diferente.

Segundo ele, embora a maioria dos vídeos fosse removida ou repassada para moderadores por ferramentas7games aplicativo para baixar parainteligência artificial, a plataforma dependia7games aplicativo para baixar parausuários para denunciar outros vídeos depois7games aplicativo para baixar parajá tê-los visto.

Ele diz que levantou preocupações enquanto estava7games aplicativo para baixar paraambas as empresas, mas se deparou sobretudo com a inércia, segundo ele, devido a temores sobre a quantidade7games aplicativo para baixar paratrabalho ou o custo envolvido.

Ele conta que foram feitas algumas melhorias posteriormente no TikTok e na Meta, mas que os usuários mais jovens, como Cai, foram deixados7games aplicativo para baixar parasituação7games aplicativo para baixar pararisco nesse meio tempo.

Vários ex-funcionários das empresas7games aplicativo para baixar pararedes sociais disseram à BBC que as preocupações7games aplicativo para baixar paraAndrew Kaung eram legítimas.

Os algoritmos7games aplicativo para baixar paratodas as grandes empresas7games aplicativo para baixar pararede social têm recomendado conteúdo prejudicial para crianças, mesmo que involuntariamente, afirmou o Ofcom, o órgão regulador7games aplicativo para baixar paramídia do Reino Unido, à BBC.

"As empresas têm feito vista grossa e têm tratado as crianças como tratam os adultos", diz Almudena Lara, diretora7games aplicativo para baixar paradesenvolvimento7games aplicativo para baixar parapolíticas7games aplicativo para baixar parasegurança online do Ofcom.

'Meu amigo precisava7games aplicativo para baixar paraum choque7games aplicativo para baixar pararealidade'

O TikTok disse à BBC que tem configurações7games aplicativo para baixar parasegurança "líderes do setor" para adolescentes — e emprega mais7games aplicativo para baixar para40 mil pessoas para manter os usuários seguros.

A plataforma afirmou que só neste ano espera investir "mais7games aplicativo para baixar paraUS$ 2 bilhões7games aplicativo para baixar parasegurança" — e encontra proativamente 98% do conteúdo que remove por violar suas regras.

Já a Meta, proprietária do Instagram e do Facebook, diz que conta com mais7games aplicativo para baixar para50 ferramentas, recursos e funcionalidades diferentes para oferecer aos adolescentes "experiências positivas e adequadas à idade".

Cai contou à BBC que tentou usar uma das ferramentas do Instagram, e uma semelhante no TikTok, para dizer que não estava interessado7games aplicativo para baixar paraconteúdo violento ou misógino — mas diz que continuou recebendo recomendações.

Ele se interessa por UFC, competição7games aplicativo para baixar paraartes marciais mistas. E também se viu assistindo a vídeos7games aplicativo para baixar parainfluenciadores controversos quando foram recomendados para ele, mas diz que não queria receber esse tipo7games aplicativo para baixar paraconteúdo mais extremo.

"Você fica com a imagem na cabeça, e não consegue tirar7games aplicativo para baixar paralá. [Isso] fica marcado na mente. E você fica pensando naquilo pelo resto do dia", relata.

Ele acrescenta que as meninas que ele conhece, que têm a mesma idade, recebem recomendações7games aplicativo para baixar paravídeos sobre temas como música e maquiagem,7games aplicativo para baixar paravez7games aplicativo para baixar paraviolência.

Agora com 18 anos, Cai conta que continuam oferecendo para ele conteúdo violento e misógino no Instagram e no TikTok.

Quando navegamos pelos Reels (vídeos curtos) do Instagram dele, vemos uma imagem menosprezando a violência doméstica. Ela mostra dois personagens lado a lado, um deles com hematomas, com a legenda: "Minha linguagem do amor". Outra mostra uma pessoa sendo atropelada por um caminhão.

Cai diz que percebeu que vídeos com milhões7games aplicativo para baixar paracurtidas podem persuadir outros jovens da7games aplicativo para baixar paraidade.

Ele conta, por exemplo, que um dos seus amigos foi atraído pelo conteúdo7games aplicativo para baixar paraum influenciador controverso — e começou a adotar opiniões misóginas.

Segundo Cai, o amigo dele "foi longe demais".

"Ele começou a dizer coisas sobre as mulheres. É como se você tivesse que dar ao seu amigo um choque7games aplicativo para baixar pararealidade."

Cai diz que comentou7games aplicativo para baixar parapostagens para dizer que não gostava delas e, quando acidentalmente curtiu vídeos, tentou "descurtir", na esperança7games aplicativo para baixar paraque isso reiniciasse os algoritmos. Mas ele afirma que acabou com mais vídeos inundando seus feeds.

Mas, afinal7games aplicativo para baixar paracontas, como os algoritmos do TikTok funcionam?

De acordo com Andrew Kaung, o que fomenta os algoritmos é o engajamento, independentemente7games aplicativo para baixar parao engajamento ser positivo ou negativo. Isso pode explicar,7games aplicativo para baixar paraparte, por que os esforços7games aplicativo para baixar paraCai para manipular os algoritmos não estavam funcionando.

O primeiro passo para os usuários é especificar quais são seus interesses quando se inscrevem. Andrew diz que parte do conteúdo inicialmente oferecido pelos algoritmos para, digamos, um jovem7games aplicativo para baixar para16 anos, é baseado nas preferências que eles indicam, e nas preferências7games aplicativo para baixar paraoutros usuários7games aplicativo para baixar paraidade semelhante,7games aplicativo para baixar paralocais semelhantes.

De acordo com o TikTok, os algoritmos não são informados pelo gênero do usuário. Mas Andrew afirma que os interesses que os adolescentes manifestam quando se inscrevem, geralmente têm o efeito7games aplicativo para baixar paradividi-los7games aplicativo para baixar paraacordo com o gênero.

O ex-funcionário do TikTok diz que alguns meninos7games aplicativo para baixar para16 anos podem ser expostos a conteúdo violento "imediatamente", porque outros usuários adolescentes com preferências semelhantes manifestaram interesse por este tipo7games aplicativo para baixar paraconteúdo —mesmo que isso signifique apenas gastar mais tempo7games aplicativo para baixar paraum vídeo que prenda a atenção deles por um pouco mais7games aplicativo para baixar paratempo.

Os interesses indicados por muitas adolescentes do sexo feminino nos perfis que ele analisou — "cantoras pop, músicas, maquiagem" — significavam que esse conteúdo violento não era recomendado para elas, diz ele.

Andrew explica que os algoritmos utilizam o "aprendizado por reforço" — um método7games aplicativo para baixar paraque os sistemas7games aplicativo para baixar parainteligência artificial aprendem por tentativa e erro — e se treinam para detectar o comportamento7games aplicativo para baixar pararelação a diferentes vídeos.

Ele diz que eles são desenvolvidos para maximizar o engajamento, mostrando vídeos que eles esperam que você passe mais tempo assistindo, comentando ou curtindo — tudo isso para que você volte para ver mais.

O algoritmo que recomenda conteúdo para a aba "Para Você" do TikTok, ele diz, nem sempre diferencia entre conteúdo prejudicial e não prejudicial.

De acordo com Andrew, um dos problemas que ele identificou quando trabalhava no TikTok era que as equipes envolvidas no treinamento e codificação desse algoritmo nem sempre sabiam a natureza exata dos vídeos que ele estava recomendando.

"Eles veem o número7games aplicativo para baixar paraespectadores, a idade, a tendência, esse tipo7games aplicativo para baixar paradado muito abstrato. Eles não seriam necessariamente expostos ao conteúdo", explica o ex-analista do TikTok.

Foi por isso que,7games aplicativo para baixar para2022, ele e um colega decidiram dar uma olhada7games aplicativo para baixar paraque tipos7games aplicativo para baixar paravídeos estavam sendo recomendados para uma variedade7games aplicativo para baixar parausuários, incluindo alguns7games aplicativo para baixar para16 anos.

Ele conta que eles ficaram preocupados com o conteúdo violento e prejudicial sendo oferecido a alguns adolescentes — e sugeriram ao TikTok que atualizasse seu sistema7games aplicativo para baixar paramoderação.

Eles queriam que o TikTok rotulasse claramente os vídeos para que todos que trabalham lá pudessem ver por que eles eram prejudiciais — violência extrema, abuso, pornografia e assim por diante —, e contratasse mais moderadores especializados nestas diferentes áreas. Andrew diz que suas sugestões foram rejeitadas na época.

O TikTok afirmou que tinha moderadores especializados na época e, conforme a plataforma cresceu, continuou a contratar mais. Também disse que separou diferentes tipos7games aplicativo para baixar paraconteúdo prejudicial — no que chama7games aplicativo para baixar parafilas — para os moderadores.

'É como pedir a um tigre para não comer você'

Andrew Kaung afirma que,7games aplicativo para baixar paradentro do TikTok e da Meta, foi muito difícil fazer as mudanças que ele achava necessárias.

"Estamos pedindo a uma empresa privada, cujo interesse é promover seus produtos, que se modere, o que é como pedir a um tigre para não comer você", diz ele.

Ele também acredita que a vida7games aplicativo para baixar paracrianças e adolescentes seria melhor se eles parassem7games aplicativo para baixar parausar smartphones.

Mas, para Cai, proibir adolescentes7games aplicativo para baixar parausar celular ou redes sociais não é a solução. O smartphone é parte integrante da7games aplicativo para baixar paravida — uma maneira muito importante7games aplicativo para baixar parase comunicar com os amigos, navegar quando está fora7games aplicativo para baixar paracasa e comprar coisas.

Em vez disso, ele quer que as empresas7games aplicativo para baixar pararede social deem mais ouvidos ao que os adolescentes não querem ver. Ele quer que as empresas tornem as ferramentas que permitem que os usuários indiquem suas preferências mais eficazes.

"Sinto que as empresas7games aplicativo para baixar pararede social não respeitam7games aplicativo para baixar paraopinião, desde que renda dinheiro a elas", diz Cai.

No Reino Unido, uma nova lei vai forçar as empresas7games aplicativo para baixar pararede social a verificar a idade das crianças, e impedir que as plataformas recomendem pornografia ou outro tipo7games aplicativo para baixar paraconteúdo prejudicial aos jovens. O Ofcom, órgão regulador7games aplicativo para baixar paramídia do Reino Unido, é responsável por aplicá-la.

Almudena Lara, diretora7games aplicativo para baixar paradesenvolvimento7games aplicativo para baixar parapolíticas7games aplicativo para baixar parasegurança online do Ofcom, afirma que, embora o conteúdo prejudicial que afeta predominantemente mulheres jovens — como vídeos que promovem transtornos alimentares e automutilação — tenha estado, com razão, sob os holofotes, as vias algorítmicas que levam o ódio e a violência sobretudo para adolescentes e jovens do sexo masculino receberam menos atenção.

"Tende a ser uma minoria7games aplicativo para baixar para[crianças] que é exposta ao conteúdo mais prejudicial. Mas sabemos, no entanto, que uma vez que você é exposto a esse conteúdo prejudicial, ele se torna inevitável", diz Lara.

O Ofcom afirma que pode multar as empresas e abrir processos criminais se elas não fizerem o suficiente, mas as medidas só vão entrar7games aplicativo para baixar paravigor7games aplicativo para baixar para2025.

No Brasil, o debate sobre a regulação e moderação7games aplicativo para baixar paraconteúdo nas plataformas digitais vem ficando mais acirrado nos últimos anos — com o avanço7games aplicativo para baixar paraalguns projetos7games aplicativo para baixar paralei7games aplicativo para baixar paratramitação no Congresso. Entre eles, o PL 2.628/2022, que prevê a criação7games aplicativo para baixar paramecanismos para proteger especificamente crianças e adolescentes7games aplicativo para baixar paraambientes digitais, como as redes sociais.

A resolução 245 do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda), publicada neste ano, também representa um avanço neste sentido, estabelecendo entre outras coisas diretrizes que as empresas provedoras7games aplicativo para baixar paraprodutos e serviços digitais devem adotar para garantir e proteger os direitos deste público.

O TikTok diz que usa "tecnologia inovadora" e fornece configurações7games aplicativo para baixar parasegurança e privacidade "líderes do setor" para adolescentes, incluindo sistemas para bloquear conteúdo que pode não ser adequado, e que não permite violência extrema ou misoginia.

A Meta, dona do Instagram e do Facebook, afirma que conta com mais7games aplicativo para baixar para"50 ferramentas, recursos e funcionalidades diferentes" para oferecer aos adolescentes "experiências positivas e adequadas à idade". De acordo com a Meta, a empresa busca feedback7games aplicativo para baixar parasuas próprias equipes, e potenciais mudanças7games aplicativo para baixar parapolítica passam por um processo sólido.