A rotina traumatizante dos moderadoresjogar bicho onlineredes sociais: 'Sacrifico minha saúde mental pelos outros':jogar bicho online

A segurança na internet vem se tornando uma questão cada vez mais relevante. As empresasjogar bicho onlinetecnologia enfrentam pressões para remover rapidamente o material nocivo que é postado online.

No entanto, apesar da grande quantidadejogar bicho onlinepesquisas e investimentosjogar bicho onlinesoluções tecnológicas para ajudar neste processo, até o momento, a palavra final ainda fica,jogar bicho onlinegrande parte, a cargojogar bicho onlinemoderadores humanos.

Os moderadores costumam ser funcionáriosjogar bicho onlineempresas terceirizadas e seu trabalho é analisar conteúdo postado diretamente nas grandes redes sociais, como o Instagram, o TikTok e o Facebook.

Os moderadores ficam espalhados pelo mundo.

Conversei com vários deles para a série da BBC Rádio 4 The Moderators, disponíveljogar bicho onlineinglês no site BBC Sounds. Eles moram principalmente no leste africano e todos já deixaram seus cargos desde então.

Suas histórias são angustiantes. Algumas das nossas gravações eram chocantes demais para irem ao ar. Às vezes, meu produtor Tom Woolfenden e eu terminávamos uma gravação e simplesmente ficávamos parados,jogar bicho onlinesilêncio.

"Se você pegar seu celular e for ao TikTok, irá ver uma sériejogar bicho onlineatividades, danças, sabe... coisas alegres", conta o ex-moderador Mojez,jogar bicho onlineNairóbi, no Quênia. Ele trabalhava com conteúdo do TikTok.

"Mas, por trás disso, eu moderava pessoalmente centenasjogar bicho onlinevídeos horríveis e traumatizantes."

"Eu assumi aquilo para mim. Deixei que minha saúde mental absorvesse o golpe para que os usuários comuns pudessem prosseguir com suas atividades na plataforma", ele conta.

Existemjogar bicho onlineandamento diversas ações judiciais alegando que o trabalho destruiu a saúde mental desses moderadores. Alguns dos antigos profissionais do leste africano se reuniram e formaram um sindicato.

"De fato, a única coisa que me impedejogar bicho onlineassistir a uma decapitação quando entrojogar bicho onlineuma plataformajogar bicho onlinerede social é que há alguém sentadojogar bicho onlineum escritório,jogar bicho onlinealgum lugar, assistindo àquele conteúdo para mim e analisando para que eu não precise ver", conta Martha Dark, responsável pela organização ativista Foxglove, que dá apoio às ações judiciais.

Em 2020, a Meta – na época, conhecida como Facebook – concordoujogar bicho onlinepagar US$ 52 milhões (cercajogar bicho onlineR$ 300 milhões) para moderadores que desenvolveram problemasjogar bicho onlinesaúde mental devido a esse trabalho.

O processo judicial foi aberto por uma antiga moderadora dos Estados Unidos chamada Selena Scola. Ela descreveu os moderadores como "guardiõesjogar bicho onlinealmas", devido à quantidadejogar bicho onlinevídeos a que eles assistem mostrando os momentos finais da vida das pessoas.

Todos os ex-moderadores com quem conversei usaram a palavra "trauma" para descrever o impacto do trabalho sobre eles. Alguns tinham dificuldade para dormir e se alimentar.

Um deles contou sobre um colega que entravajogar bicho onlinepânico ao ouvir um bebê chorar. Outro disse que tinha dificuldades para interagir comjogar bicho onlineesposa e os filhos, devido aos abusos infantis que ele havia presenciado online.

Eu esperava que eles dissessem que este é um trabalho tão extenuante, mental e emocionalmente, que nenhum ser humano deveria estar a cargo dele. Pensei que eles fossem apoiar totalmente a automação completa do setor, com a evoluçãojogar bicho onlineferramentasjogar bicho onlineinteligência artificial para desempenhar esta tarefajogar bicho onlinelarga escala.

Mas não. O que surgiu, com muita força, foi o imenso orgulho dos moderadores pelo papel que eles desempenharam para proteger o mundo dos danos online.

Eles se consideram um serviçojogar bicho onlineemergência fundamental. Um deles declarou que queria um uniforme e um distintivo, comparando-se com um bombeiro ou paramédico.

"Nem um só segundo foi mal empregado", disse alguém que chamamosjogar bicho onlineDavid. Ele pediu para permanecer anônimo.

David trabalhou com material usado para treinar o chatbot viraljogar bicho onlineIA ChatGPT, fazendo com que ele fosse programado para não regurgitar esse horrível material.

"Tenho orgulho dos indivíduos que treinaram este modelo para ser o que ele é hojejogar bicho onlinedia", declarou. Mas a própria ferramenta que David ajudou a treinar poderá, um dia, concorrer com ele.

Dave Willner é o ex-chefejogar bicho onlineconfiança e segurança da OpenAI, a empresa criadora do ChatGPT. Ele afirma quejogar bicho onlineequipe construiu uma ferramentajogar bicho onlinemoderação rudimentar, baseada na tecnologia do chatbot. Esta ferramenta, segundo ele, conseguiu identificar conteúdo prejudicial com índicejogar bicho onlineprecisãojogar bicho onlinecercajogar bicho online90%.

"Quando eu finalmente percebi, 'oh, isso vai funcionar', honestamente, quase chorei", ele conta. "[As ferramentasjogar bicho onlineIA] não ficam entediadas. Elas não ficam cansadas, não ficam chocadas... elas são infatigáveis."

Mas nem todos acreditam que a IA será uma balajogar bicho onlineprata para os problemas do setorjogar bicho onlinemoderação online.

"Acho que é problemático", afirma o professorjogar bicho onlinecomunicação e democracia Paul Reilly, da Universidadejogar bicho onlineGlasgow, no Reino Unido. "Claramente, a IA pode ser uma forma binária e bastante obtusajogar bicho onlinemoderar conteúdo."

"Ela pode acabar bloqueando excessivamente a liberdadejogar bicho onlineexpressão e, é claro, pode deixar passar nuances que moderadores humanos seriam capazesjogar bicho onlineidentificar", explica ele.

"A moderação humana é essencial para as plataformas. O problema é que não há moderadores suficientes e o trabalho é incrivelmente prejudicial para os profissionais."

Nós também entramosjogar bicho onlinecontato com as empresasjogar bicho onlinetecnologia mencionadas na série.

Um porta-voz do TikTok declarou que a empresa sabe que a moderaçãojogar bicho onlineconteúdo não é uma tarefa fácil e procura promover um ambientejogar bicho onlinetrabalho solidário para seus funcionários. Suas medidas incluem a ofertajogar bicho onlineapoio clínico e a criaçãojogar bicho onlineprogramasjogar bicho onlineapoio ao bem-estar dos moderadores.

O TikTok destaca que os vídeos são inicialmente analisados por tecnologia automatizada que, segundo a empresa, remove um grande volumejogar bicho onlineconteúdo prejudicial.

Já a OpenAI – a empresa responsável pelo ChatGPT – declarou reconhecer o trabalho importante e, às vezes, desafiador dos profissionais humanos que treinam a IA para identificar essas fotos e vídeos.

Um porta-voz da empresa acrescentou que, junto com seus parceiros, a OpenAI executa políticasjogar bicho onlineproteção ao bem-estar das suas equipes.

Por fim, a Meta – proprietária do Instagram e do Facebook – afirma exigir que todas as suas empresas parceiras forneçam apoio presencial, 24 horas por dia, com profissionais treinados. Ela destaca que os moderadores podem personalizar suas ferramentasjogar bicho onlineanálise, para desfocar as imagens sensíveis.

Ouça a série da BBC Rádio 4 The Moderators (em inglês), que deu origem a esta reportagem, no site BBC Sounds.