A rotina traumatizante dos moderadoresapostas on line monte carloredes sociais: 'Sacrifico minha saúde mental pelos outros':apostas on line monte carlo

A segurança na internet vem se tornando uma questão cada vez mais relevante. As empresasapostas on line monte carlotecnologia enfrentam pressões para remover rapidamente o material nocivo que é postado online.

No entanto, apesar da grande quantidadeapostas on line monte carlopesquisas e investimentosapostas on line monte carlosoluções tecnológicas para ajudar neste processo, até o momento, a palavra final ainda fica,apostas on line monte carlogrande parte, a cargoapostas on line monte carlomoderadores humanos.

Os moderadores costumam ser funcionáriosapostas on line monte carloempresas terceirizadas e seu trabalho é analisar conteúdo postado diretamente nas grandes redes sociais, como o Instagram, o TikTok e o Facebook.

Os moderadores ficam espalhados pelo mundo.

Conversei com vários deles para a série da BBC Rádio 4 The Moderators, disponívelapostas on line monte carloinglês no site BBC Sounds. Eles moram principalmente no leste africano e todos já deixaram seus cargos desde então.

Suas histórias são angustiantes. Algumas das nossas gravações eram chocantes demais para irem ao ar. Às vezes, meu produtor Tom Woolfenden e eu terminávamos uma gravação e simplesmente ficávamos parados,apostas on line monte carlosilêncio.

"Se você pegar seu celular e for ao TikTok, irá ver uma sérieapostas on line monte carloatividades, danças, sabe... coisas alegres", conta o ex-moderador Mojez,apostas on line monte carloNairóbi, no Quênia. Ele trabalhava com conteúdo do TikTok.

"Mas, por trás disso, eu moderava pessoalmente centenasapostas on line monte carlovídeos horríveis e traumatizantes."

"Eu assumi aquilo para mim. Deixei que minha saúde mental absorvesse o golpe para que os usuários comuns pudessem prosseguir com suas atividades na plataforma", ele conta.

Existemapostas on line monte carloandamento diversas ações judiciais alegando que o trabalho destruiu a saúde mental desses moderadores. Alguns dos antigos profissionais do leste africano se reuniram e formaram um sindicato.

"De fato, a única coisa que me impedeapostas on line monte carloassistir a uma decapitação quando entroapostas on line monte carlouma plataformaapostas on line monte carlorede social é que há alguém sentadoapostas on line monte carloum escritório,apostas on line monte carloalgum lugar, assistindo àquele conteúdo para mim e analisando para que eu não precise ver", conta Martha Dark, responsável pela organização ativista Foxglove, que dá apoio às ações judiciais.

Em 2020, a Meta – na época, conhecida como Facebook – concordouapostas on line monte carlopagar US$ 52 milhões (cercaapostas on line monte carloR$ 300 milhões) para moderadores que desenvolveram problemasapostas on line monte carlosaúde mental devido a esse trabalho.

O processo judicial foi aberto por uma antiga moderadora dos Estados Unidos chamada Selena Scola. Ela descreveu os moderadores como "guardiõesapostas on line monte carloalmas", devido à quantidadeapostas on line monte carlovídeos a que eles assistem mostrando os momentos finais da vida das pessoas.

Todos os ex-moderadores com quem conversei usaram a palavra "trauma" para descrever o impacto do trabalho sobre eles. Alguns tinham dificuldade para dormir e se alimentar.

Um deles contou sobre um colega que entravaapostas on line monte carlopânico ao ouvir um bebê chorar. Outro disse que tinha dificuldades para interagir comapostas on line monte carloesposa e os filhos, devido aos abusos infantis que ele havia presenciado online.

Eu esperava que eles dissessem que este é um trabalho tão extenuante, mental e emocionalmente, que nenhum ser humano deveria estar a cargo dele. Pensei que eles fossem apoiar totalmente a automação completa do setor, com a evoluçãoapostas on line monte carloferramentasapostas on line monte carlointeligência artificial para desempenhar esta tarefaapostas on line monte carlolarga escala.

Mas não. O que surgiu, com muita força, foi o imenso orgulho dos moderadores pelo papel que eles desempenharam para proteger o mundo dos danos online.

Eles se consideram um serviçoapostas on line monte carloemergência fundamental. Um deles declarou que queria um uniforme e um distintivo, comparando-se com um bombeiro ou paramédico.

"Nem um só segundo foi mal empregado", disse alguém que chamamosapostas on line monte carloDavid. Ele pediu para permanecer anônimo.

David trabalhou com material usado para treinar o chatbot viralapostas on line monte carloIA ChatGPT, fazendo com que ele fosse programado para não regurgitar esse horrível material.

"Tenho orgulho dos indivíduos que treinaram este modelo para ser o que ele é hojeapostas on line monte carlodia", declarou. Mas a própria ferramenta que David ajudou a treinar poderá, um dia, concorrer com ele.

Dave Willner é o ex-chefeapostas on line monte carloconfiança e segurança da OpenAI, a empresa criadora do ChatGPT. Ele afirma queapostas on line monte carloequipe construiu uma ferramentaapostas on line monte carlomoderação rudimentar, baseada na tecnologia do chatbot. Esta ferramenta, segundo ele, conseguiu identificar conteúdo prejudicial com índiceapostas on line monte carloprecisãoapostas on line monte carlocercaapostas on line monte carlo90%.

"Quando eu finalmente percebi, 'oh, isso vai funcionar', honestamente, quase chorei", ele conta. "[As ferramentasapostas on line monte carloIA] não ficam entediadas. Elas não ficam cansadas, não ficam chocadas... elas são infatigáveis."

Mas nem todos acreditam que a IA será uma balaapostas on line monte carloprata para os problemas do setorapostas on line monte carlomoderação online.

"Acho que é problemático", afirma o professorapostas on line monte carlocomunicação e democracia Paul Reilly, da Universidadeapostas on line monte carloGlasgow, no Reino Unido. "Claramente, a IA pode ser uma forma binária e bastante obtusaapostas on line monte carlomoderar conteúdo."

"Ela pode acabar bloqueando excessivamente a liberdadeapostas on line monte carloexpressão e, é claro, pode deixar passar nuances que moderadores humanos seriam capazesapostas on line monte carloidentificar", explica ele.

"A moderação humana é essencial para as plataformas. O problema é que não há moderadores suficientes e o trabalho é incrivelmente prejudicial para os profissionais."

Nós também entramosapostas on line monte carlocontato com as empresasapostas on line monte carlotecnologia mencionadas na série.

Um porta-voz do TikTok declarou que a empresa sabe que a moderaçãoapostas on line monte carloconteúdo não é uma tarefa fácil e procura promover um ambienteapostas on line monte carlotrabalho solidário para seus funcionários. Suas medidas incluem a ofertaapostas on line monte carloapoio clínico e a criaçãoapostas on line monte carloprogramasapostas on line monte carloapoio ao bem-estar dos moderadores.

O TikTok destaca que os vídeos são inicialmente analisados por tecnologia automatizada que, segundo a empresa, remove um grande volumeapostas on line monte carloconteúdo prejudicial.

Já a OpenAI – a empresa responsável pelo ChatGPT – declarou reconhecer o trabalho importante e, às vezes, desafiador dos profissionais humanos que treinam a IA para identificar essas fotos e vídeos.

Um porta-voz da empresa acrescentou que, junto com seus parceiros, a OpenAI executa políticasapostas on line monte carloproteção ao bem-estar das suas equipes.

Por fim, a Meta – proprietária do Instagram e do Facebook – afirma exigir que todas as suas empresas parceiras forneçam apoio presencial, 24 horas por dia, com profissionais treinados. Ela destaca que os moderadores podem personalizar suas ferramentasapostas on line monte carloanálise, para desfocar as imagens sensíveis.

Ouça a série da BBC Rádio 4 The Moderators (em inglês), que deu origem a esta reportagem, no site BBC Sounds.