'Checava se alguém se mataria ao vivo': a rotina do brasileiro que moderava posts denunciados no Facebook:blackjack virtual
"Impossível não ter erro humano nesse ritmo", diz Sergio, que hoje trabalha como freelancer e decidiu apagar seus rastros na rede social depoisblackjack virtuala conhecer "por dentro".
Na semanablackjack virtualque Mark Zuckerberg anunciou a contrataçãoblackjack virtual10 mil novos funcionários diretos e indiretos para funções como a desempenhada por Sergio, a rotina do brasileiroblackjack virtualuma espécieblackjack virtualcall center digital ilustra o desafio enfrentado pelo Facebook para conter milhõesblackjack virtualdemonstrações explícitasblackjack virtualviolência com consequências cada vez mais dramáticas - do incentivo a suicídios infantis a ameaças à segurança nacional do país mais rico do mundo.
No Estados Unidos, na semana passada, o Facebook admitiu que grupos russos criaram perfis falsos ligados a movimentos sociais como o Black Lives Matter para divulgar memes que incitavam o ódioblackjack virtualgrupos racistas durante as eleiçõesblackjack virtual2016.
Segundo as revelações do Senado americano, notícias falsas sobre muçulmanos também teriam sido impulsionadas por russos na rede para irritar o eleitorado xenófobo.
Procurada na manhã desta terça-feira, 7, a matriz americana do Facebook encaminhou as perguntas da BBC Brasil ao escritório paulista da rede, que no início da noite informou que "não irá comentar" os relatos do ex-funcionário.
Nas questões enviadas, a reportagem pedia confirmação das informações sobre carga horária e metas, respostas sobre contratosblackjack virtualtrabalho terceirizados e dados sobre eventual apoio psicológico a trabalhadores expostos a publicações violentas.
Rotina
Para além da frieza dos robôs e relatórios, a experiência do brasileiro traz luz ao trabalho daqueles que ocupam funçõesblackjack virtualbaseblackjack virtualempresas terceirizadas pelo impérioblackjack virtualMark Zuckerberg - com relaçõesblackjack virtualtrabalho bem diferentes do clichêblackjack virtualescritórios descolados, do Vale do Silício, com montanhasblackjack virtualM&Ms e cachorros-quentes à disposição das equipes.
Em um prédio com longas bancadasblackjack virtualcomputadores distribuídasblackjack virtualvários andares, Sergio e aproximadamente 500 colegas do mundo inteiro passavam dias avaliando denúncias sobre pedofilia, nudez, necrofilia, suicídios, assassinatos, assédios, ameaças, armas, drogas e violência animal publicadasblackjack virtualmaisblackjack virtual10 idiomas.
Segundo o ex-funcionário, nestes centrosblackjack virtualrevisão da rede social mais usada do planeta, celulares são proibidos, pausas para comida ou banheiro são monitoradas e contratosblackjack virtualtrabalho preveem multas e processos judiciais contra vazamentoblackjack virtualinformações.
"Era como um grande call center, sem os telefones. A gente estava ali para atender ao cliente: no caso, o Facebook e todos os seus usuários", diz.
Em seu computador, Sergio tinha acesso a uma linha do tempo "alternativa" que exibia apenas as postagens alvoblackjack virtualdenúnciasblackjack virtualusuários,blackjack virtualforma aleatória, junto a um menu sobre possíveis violações.
Os moderadores só visualizam o nome do autor das publicações e não têm acesso a seus perfis completos. Sua missão é apagar, ignorar ou encaminhar a publicação para a avaliação superior - o que ocorre especialmenteblackjack virtualcasosblackjack virtualsuicídio ou pedofilia, que porblackjack virtualvez são encaminhados a autoridades.
As decisões, pautadas por políticas internas da rede social, servem para "educar" os algoritmos, que com o tempo repetem as respostas automaticamente, por meioblackjack virtualrecursos avançadosblackjack virtualidentificaçãoblackjack virtualrostos ou frases ofensivas.
"Quanto mais ensinávamos o algoritmo, menos nos tornávamos necessários. Nosso trabalho era tornar o nosso trabalho obsoleto", diz Sergio.
O brasileiro também pede sigilo sobre a cidade onde trabalhava, mas conta que o Facebook escolhe locais com alto fluxoblackjack virtualestrangeiros, onde é fácil encontrar pessoas fluentesblackjack virtualdiferentes idiomas.
Os revisoresblackjack virtualconteúdo são normalmente jovens profissionais que vivem no exterior ou que não encontram trabalhoblackjack virtualsuas áreas. A rotatividade é alta e a maioria não completa um ano no posto.
Metas
Para conseguirem decidirblackjack virtualmenosblackjack virtual10 segundos se uma publicação merece ou não ser apagada, os funcionários decoram regras e recebem memorandos digitais sobre mudançasblackjack virtuallistasblackjack virtualgrupos extremistas ou atualizaçõesblackjack virtualpolíticas, como a que permitiu fotos e vídeosblackjack virtualmães amamentando e imagensblackjack virtualmulheres que passaram por mastectomia.
A pressão para cumprir as metas aparecia, segundo Sergio,blackjack virtualreuniões recorrentes com supervisores.
"Tinha relatórios periódicos sobre metasblackjack virtualmoderação. Os chefes às vezes pareciam cheerleaders (líderesblackjack virtualtorcida,blackjack virtualinglês) e tentavam nos motivar dizendo que havíamos 'salvado X pessoasblackjack virtualsuicídios ou agressões no mês'", conta.
"Mas também diziam sempre que a continuidade dos nossos empregos dependia do batimento das metas diárias e citavam outros lugares com resultados melhores que o nosso. A gente nunca sabia quanto tempo o escritório iria durar", completa o ex-funcionário.
Há uma semana, ao anunciar um aumentoblackjack virtual47% no faturamento anual do Facebook, que ultrapassou pela primeira vez na história a marcablackjack virtualUS$ 10 bilhõesblackjack virtualum trimestre, Mark Zuckerberg prometeu investirblackjack virtual"pessoas e tecnologia para identificar mau comportamento e remover notícias falsas, discursoblackjack virtualódio, bullying e outros conteúdos problemáticos" da rede.
Em maio, a chefeblackjack virtualPolítica Global do Facebook, Monika Bickert, comentou o trabalhoblackjack virtualrevisores como Sergioblackjack virtualum texto sobre os desafios da moderaçãoblackjack virtualconteúdos.
"Eles têm um obstáculo: entender o contexto. É difícil julgar a intenção por trásblackjack virtualuma postagem, ou o risco implícitoblackjack virtualoutra. Alguém publica um vídeo violentoblackjack virtualum ataque terrorista. Isso inspirará as pessoas a imitar a violência, ou a falar contra isso? Alguém escreve uma piada sobre suicídio. É um mero comentário ou um gritoblackjack virtualajuda?"
O brasileiro confirma as dificuldades, mas diz que não conseguia discutir decisões com superiores. "Não tinha espaço para pensamento crítico, o trabalho tinha que ser automático e acelerado. Era seguir o manual, apertar botão e não fazer muitas perguntas", diz.
Ferimentos x Morte
Os dados mais recentes do Facebook apontam que a rede exclui quase 300 mil publicações por mês. Entre os brasileiros, segundo o ex-revisor, boa parte dos conteúdos denunciados são casosblackjack virtualnudez.
"Ver conteúdos fortes todos os dias te faz perder a sensibilidade para certas coisas. Especialmenteblackjack virtualrelação à nudez - eram tantas selfiesblackjack virtualgente nua, closesblackjack virtualpênis, vaginas e mamilos, que a pornografia perdeu a graça", afirma.
Como não há consenso nas leisblackjack virtualdiferentes países sobre conteúdos ofensivos ou discursoblackjack virtualódio online (frases que podem levar à prisãoblackjack virtuallocais como a Alemanha podem ser protegidas como liberdadeblackjack virtualexpressão pela Constituição dos EUA), o Facebook criou suas próprias regras, considerando raça e etnia, religião, gênero e orientação sexual como "categorias protegidas".
Os revisores são orientados, seguindo as normas da rede, a apagar "qualquer ataque direto a pessoas" com base nestas categorias.
Sobre violência, a rede determina que imagensblackjack virtualinteresse público, "como abusosblackjack virtualdireitos humanos ou atosblackjack virtualterrorismo", sejam mantidas quando as postagens expressarem reprovação ou conscientização.
Em casosblackjack virtualcompartilhamento "pelo prazer sádicoblackjack virtualcelebrar ou enaltecer a violência", elas devem ser apagadas. Muitos casos geravam discórdia entre os funcionários.
"Ferimento grave, por exemplo, podia. Se depoisblackjack virtualser atropeladablackjack virtualum vídeo a pessoa ainda estivesse se mexendo, o conteúdo era marcado como "sensível", mas continuava no ar", lembra. "Só se houvesse morte a gente apagava".
Além da pressa, códigos sociais usados por diferentes grupos podiam dificultar o trabalho dos moderadores.
"Muitos gays chamam uns aos outrosblackjack virtual'veado', por exemplo. Veado (ou faggot,blackjack virtualinglês) era uma palavra proibida, a não ser que fosse uma autorrefêrencia. E acontecia sempreblackjack virtualum gay usar a palavra veado e ter a conta bloqueada ou desativada por ofensa", diz Sergio. "Muitas vezes, na moderação, era a gente quem decidia se a pessoa era gay ou não na horablackjack virtualanalisar a denúncia."
Erros
A rede social costuma reconhecer falhas no sistema. "Nossos erros causaram muita preocupaçãoblackjack virtualvárias comunidades, inclusive entre grupos que sentem que nós agimos - ou deixamosblackjack virtualagir - por parcialidade", dizia um post do Facebookblackjack virtualjulho.
"Estamos profundamente empenhadosblackjack virtualdiscutir e enfrentar a parcialidadeblackjack virtualqualquer lugar do mundo. Ao mesmo tempo, trabalhamos para corrigir nossos erros rapidamente, assim que eles acontecem."
Sergio diz que nunca encontrou uma denúnciablackjack virtualpostagem envolvendo algum amigo ou conhecido - as publicacões para revisão apareciamblackjack virtualseu computadorblackjack virtualforma aleatória.
Ameaças contra políticos e pessoas públicas, no entanto, eram frequentes, diz ele - e as regras da rede para este público são distintas.
"Nós apagamos ameaças reais contra a integridade física das pessoas e removemos ameças específicasblackjack virtualroubo, vandalismo ou prejuízo financeiro", dizem as regras oficiais do Facebook.
O texto oficial diz, porém, queblackjack virtualcasosblackjack virtual"pessoas com visibilidade pública", as chances reais "das ameaças se concretizarem" são levadasblackjack virtualconsideração na horablackjack virtualapagar ou não a postagem.
Segundo Sergio, publicações como o vídeoblackjack virtualque o deputado Jair Bolsonaro afirma que a colega Maria do Rosario "não merece ser estuprada" e comentários violentos continuaram no ar porque a deputada se encaixaria nesta categoria. "Qualquer pessoa com maisblackjack virtual100 mil seguidores é considerada pública", afirma o brasileiro.
Choque
Ele conta que o que mais chocava os colegas era a crueldadeblackjack virtualpublicações com agressões a animais. "Num deles aparecia uma máquinablackjack virtualmatadouro, com uma corda que girava presa a um motor e tinha uma vaca amarradablackjack virtualuma das pontas. A corda a puxava e ela era despedaçada viva", diz.
A exposição excessiva a imagens violentas já levou moderadores do Facebook a desenvolverem distúrbiosblackjack virtualansiedade, problemas sexuais e pânico, segundo jornais estrangeiros.
O brasileiro, no entanto, diz que era afetadoblackjack virtualmenor grau pelas imagens.
"Primeiro, porque nasci no Brasil, e nossas referências sobre violência tendem a ser mais agressivas que asblackjack virtualcolegas europeus, por exemplo", afirma.
Ele continua: "Depois, porque eu via todos os dias vídeosblackjack virtualbrutalidades contra crianças, minorias e bichos, e a gente acaba se acostumando com imagens gráficas. Para mim, a crueldade humanablackjack virtualtermosblackjack virtualpalavras, apoiando agressões, pregando ódio, rindoblackjack virtualvítimasblackjack virtualcomentários e compartilhamentos, era sempre muito pior".
Os traumas levaram Sergio a apagar definitivamente deu perfil no Facebook.
"Para não ficar preso nas bolhas, nas câmarasblackjack virtualeco onde as pessoas só ouvem as próprias vozes e asblackjack virtualquem concorda com elas, eu decidi me isolar", conta o brasileiro."Eu não queria me tornar uma daquelas pessoas que apareciam nas denúncias."