Algoritmos das rede sociais promovem preconceito e desigualdade, diz matemática7games es aplicativoHarvard:7games es aplicativo

A obra é recheada7games es aplicativoexemplos7games es aplicativomodelos matemáticos atuais que ranqueiam o potencial7games es aplicativoseres humanos como estudantes, trabalhadores, criminosos, eleitores e consumidores. Segundo a autora, por trás da aparente imparcialidade desses sistemas, escondem-se critérios nebulosos que agravam injustiças.

É o caso dos seguros7games es aplicativoautomóveis nos Estados Unidos. Motoristas que nunca tomaram uma multa sequer, mas que tinham restrições7games es aplicativocrédito por morarem7games es aplicativobairros pobres, pagavam valores consideravelmente mais altos do que aqueles com facilidade7games es aplicativocrédito, mas já condenados por dirigirem embriagados. "Para a seguradora, é um ganha-ganha. Um bom motorista com restrição7games es aplicativocrédito representa um risco baixo e um retorno altíssimo", exemplifica.

Confira abaixo os principais trechos da entrevista:

7games es aplicativo BBC Brasil - Há séculos pesquisadores analisam dados para entender padrões7games es aplicativocomportamento e prever acontecimentos. Qual é novidade trazida pelo Big Data?

7games es aplicativo Cathy O'Neil - O diferencial do Big Data é a quantidade7games es aplicativodados disponíveis. Há uma montanha gigantesca7games es aplicativodados que se correlacionam e que podem ser garimpados para produzir a chamada "informação incidental". É incidental no sentido7games es aplicativoque uma determinada informação não é fornecida diretamente - é uma informação indireta. É por isso que as pessoas que analisam os dados do Twitter podem descobrir7games es aplicativoqual político eu votaria. Ou descobrir se eu sou gay apenas pela análise dos posts que curto no Facebook, mesmo que eu não diga que sou gay.

A questão é que esse processo é cumulativo. Agora que é possível descobrir a orientação sexual7games es aplicativouma pessoa a partir7games es aplicativoseu comportamento nas redes sociais, isso não vai ser "desaprendido". Então, uma das coisas que mais me preocupam é que essas tecnologias só vão ficar melhores com o passar do tempo. Mesmo que as informações venham a ser limitadas - o que eu acho que não vai acontecer - esse acúmulo7games es aplicativoconhecimento não vai se perder.

7games es aplicativo BBC Brasil - O principal alerta do seu livro é7games es aplicativoque os algoritmos não são ferramentas neutras e objetivas. Pelo contrário: eles são enviesados pelas visões7games es aplicativomundo7games es aplicativoseus programadores e,7games es aplicativoforma geral, reforçam preconceitos e prejudicam os mais pobres. O sonho7games es aplicativoque a internet pudesse tornar o mundo um lugar melhor acabou?

7games es aplicativo O'Neil - É verdade que a internet fez do mundo um lugar melhor7games es aplicativoalguns contextos. Mas, se colocarmos numa balança os prós e os contras, o saldo é positivo? É difícil dizer. Depende7games es aplicativoquem é a pessoa que vai responder. É evidente que há vários problemas. Só que muitos exemplos citados no meu livro, é importante ressaltar, não têm nada a ver com a internet. As prisões feitas pela polícia ou as avaliações7games es aplicativopersonalidade aplicadas7games es aplicativoprofessores não têm a ver estritamente com a internet. Não há como evitar que isso seja feito, mesmo que as pessoas evitem usar a internet. Mas isso foi alimentado pela tecnologia7games es aplicativoBig Data.

Por exemplo: os testes7games es aplicativopersonalidade7games es aplicativoentrevistas7games es aplicativoemprego. Antes, as pessoas se candidatavam a uma vaga indo até uma determinada loja que precisava7games es aplicativoum funcionário. Mas hoje todo mundo se candidata pela internet. É isso que gera os testes7games es aplicativopersonalidade. Existe uma quantidade tão grande7games es aplicativopessoas se candidatando a vagas que é necessário haver algum filtro.

7games es aplicativo BBC Brasil - Qual é o futuro do trabalho sob os algoritmos?

7games es aplicativo O'Neil - Testes7games es aplicativopersonalidade e programas que filtram currículos são alguns exemplos7games es aplicativocomo os algoritmos estão afetando o mundo do trabalho. Isso sem mencionar os algoritmos que ficam vigiando as pessoas enquanto elas trabalham, como é o caso7games es aplicativoprofessores e caminhoneiros. Há um avanço da vigilância. Se as coisas continuarem indo do jeito como estão, isso vai nos transformar7games es aplicativorobôs.

Mas eu não quero pensar nisso como um fato inevitável - que os algoritmos vão transformar as pessoas7games es aplicativorobôs ou que os robôs vão substituir o trabalho dos seres humanos. Eu não quero admitir isso. Isso é algo que podemos decidir que não vai acontecer. É uma decisão política. Essa ideia7games es aplicativoque os robôs vão substituir o trabalho humano é muito fatalista. É preciso reagir e mostrar que essa é uma batalha política. O problema é que estamos tão intimidados pelo avanço dessas tecnologias que sentimos que não há como lutar contra.

7games es aplicativo BBC Brasil - E no caso das companhias7games es aplicativotecnologia como a Uber? Alguns estudiosos usam o termo "gig economy" (economia7games es aplicativo"bicos") para se referir à organização do trabalho feita por empresas que utilizam algoritmos.

7games es aplicativo O'Neil - Esse é um ótimo exemplo7games es aplicativocomo entregamos o poder a essas empresas da gig economy, como se fosse um processo inevitável. Certamente, elas estão se saindo muito bem na tarefa7games es aplicativoburlar legislações trabalhistas, mas isso não quer dizer que elas deveriam ter permissão para agir dessa maneira. Essas companhias deveriam pagar melhores remunerações e garantir melhores condições7games es aplicativotrabalho.

No entanto, os movimentos que representam os trabalhadores ainda não conseguiram assimilar as mudanças que estão ocorrendo. Mas essa não é uma questão essencialmente algorítmica. O que deveríamos estar perguntando é: como essas pessoas estão sendo tratadas? E, se elas não estão sendo bem tratadas, deveríamos criar leis para garantir isso.

Eu não estou dizendo que os algoritmos não têm nada a ver com isso - eles têm, sim. É uma forma que essas companhias usam para dizer que elas não podem ser consideradas "chefes" desses trabalhadores. A Uber, por exemplo, diz que os motoristas são autônomos e que o algoritmo é o chefe. Esse é um ótimo exemplo7games es aplicativocomo nós ainda não entendemos o que se entende por "responsabilidade" no mundo dos algoritmos. Essa é uma questão7games es aplicativoque venho trabalhando há algum tempo: que pessoas vão ser responsabilizadas pelos erros dos algoritmos?

7games es aplicativo BBC Brasil - No livro você argumenta que é possível criar algoritmos para o bem - o principal desafio é garantir transparência. Porém, o segredo do sucesso7games es aplicativomuitas empresas é justamente manter7games es aplicativosegredo o funcionamento dos algoritmos. Como resolver a contradição?

7games es aplicativo O'Neil - Eu não acho que seja necessária transparência para que um algoritmo seja bom. O que eu preciso saber é se ele funciona bem. Eu preciso7games es aplicativoindicadores7games es aplicativoque ele funciona bem, mas isso não quer dizer que eu necessite conhecer os códigos7games es aplicativoprogramação desse algoritmo. Os indicadores podem ser7games es aplicativooutro tipo - é mais uma questão7games es aplicativoauditoria do que7games es aplicativoabertura dos códigos.

A melhor maneira7games es aplicativoresolver isso é fazer com que os algoritmos sejam auditados por terceiros. Não é recomendável confiar nas próprias empresas que criaram os algoritmos. Precisaria ser um terceiro, com legitimidade, para determinar se elas estão operando7games es aplicativomaneira justa - a partir da definição7games es aplicativoalguns critérios7games es aplicativojustiça - e procedendo dentro da lei.

7games es aplicativo BBC Brasil - Recentemente, você escreveu um artigo para o jornal New York Times defendendo que a comunidade acadêmica participe mais dessa discussão. As universidades poderiam ser esse terceiro7games es aplicativoque você está falando?

7games es aplicativo O'Neil - Sim, com certeza. Eu defendo que as universidades sejam o espaço para refletir sobre como construir confiabilidade, sobre como requerer informações para determinar se os algoritmos estão funcionando.

7games es aplicativo BBC Brasil - Quando vieram a público as revelações7games es aplicativoEdward Snowden7games es aplicativoque o governo americano espionava a vida das pessoas através da internet, muita gente não se surpreendeu. As pessoas parecem dispostas a abrir mão da7games es aplicativoprivacidade7games es aplicativonome da eficiência da vida virtual?

7games es aplicativo O'Neil - Eu acho que só agora estamos percebendo quais são os verdadeiros custos dessa troca. Com dez anos7games es aplicativoatraso, estamos percebendo que os serviços gratuitos na internet não são gratuitos7games es aplicativomaneira alguma, porque nós fornecemos nossos dados pessoais. Há quem argumente que existe uma troca consentida7games es aplicativodados por serviços, mas ninguém faz essa troca7games es aplicativoforma realmente consciente - nós fazemos isso sem prestar muita atenção. Além disso, nunca fica claro para nós o que realmente estamos perdendo.

Mas não é pelo fato7games es aplicativoa NSA (sigla7games es aplicativoinglês para a Agência7games es aplicativoSegurança Nacional) nos espionar que estamos entendendo os custos dessa troca. Isso tem mais a ver com os empregos que nós arrumamos ou deixamos7games es aplicativoarrumar. Ou com os benefícios7games es aplicativoseguros e7games es aplicativocartões7games es aplicativocrédito que nós conseguimos ou deixamos7games es aplicativoconseguir. Mas eu gostaria que isso estivesse muito mais claro.

No nível individual ainda hoje, dez anos depois, as pessoas não se dão conta do que está acontecendo. Mas, como sociedade, estamos começando a entender que fomos enganados por essa troca. E vai ser necessário um tempo para saber como alterar os termos desse acordo.

7games es aplicativo BBC Brasil - O último capítulo do seu livro fala sobre a vitória eleitoral7games es aplicativoDonald Trump e avalia como as pesquisas7games es aplicativoopinião e as redes sociais influenciaram na corrida à Casa Branca. No ano que vem, as eleições no Brasil devem ser as mais agitadas das últimas três décadas. Que conselho você daria aos brasileiros?

7games es aplicativo O'Neil - Meu Deus, isso é muito difícil! Está acontecendo7games es aplicativotodas as partes do mundo. E eu não sei se isso vai parar, a não ser que fechem o Facebook - o que, a propósito, eu sugiro que façamos. Agora, falando sério: as campanhas políticas na internet devem ser permitidas, mas não deveriam ser permitidos anúncios personalizados, customizados - ou seja, todo mundo deveria receber os mesmos anúncios. Eu sei que essa ainda não é uma proposta realista, mas acho que deveríamos pensar grande porque esse problema é grande. E eu não consigo pensar7games es aplicativooutra maneira7games es aplicativoresolver essa questão.

É claro que isso seria um elemento7games es aplicativoum conjunto maior7games es aplicativomedidas porque nada vai impedir pessoas idiotas7games es aplicativoacreditar no que elas querem acreditar - e7games es aplicativopostar sobre isso. Ou seja, nem sempre é um problema do algoritmo. Às vezes, é um problema das pessoas mesmo. O fenômeno das fake news é um exemplo. Os algoritmos pioram a situação, personalizando as propagandas e amplificando o alcance, porém, mesmo que não existisse o algoritmo do Facebook e que as propagandas políticas fossem proibidas na internet, ainda haveria idiotas disseminando fake news que acabariam viralizando nas redes sociais. E eu não sei o que fazer a respeito disso, a não ser fechar as redes sociais.

Eu tenho três filhos, eles têm 17, 15 e 9 anos. Eles não usam redes sociais porque acham que são bobas e eles não acreditam7games es aplicativonada do que veem nas redes sociais. Na verdade, eles não acreditam7games es aplicativomais nada - o que também não é bom. Mas o lado positivo é que eles estão aprendendo a checar informações por conta própria. Então, eles são consumidores muito mais conscientes do que os da minha geração. Eu tenho 45 anos, a minha geração é a pior. As coisas que eu vi as pessoas da minha idade compartilhando após a eleição7games es aplicativoTrump eram ridículas. Pessoas postando ideias sobre como colocar Hilary Clinton na presidência mesmo sabendo que Trump tinha vencido. Foi ridículo. A esperança é ter uma geração7games es aplicativopessoas mais espertas.