Por que o serviçocartãocrédito da Apple está sendo acusadosexismo:

A agência reguladoraWall Street abriu uma investigação contra a Apple , depoisa empresa ter sido acusada por usuários nos EUAoferecer limitescrédito muito maiores a consumidores homens do que a mulheres com seu cartãocrédito Apple Card.

O influente programador dinamarquês David Heinemeier Hansson foi um dos que iniciaram a discussão no Twitter, onde chamou o funcionamento do cartão"sexista".

"Minha mulher e eu fazemos declaração conjuntaImpostoRenda, vivemos no mesmo imóvel e estamos casados há muito tempo. Mesmo assim, os algoritmos da Apple acham que eu mereço um limitecrédito 20 vezes maior que o dela", afirmou,um tuíte que teve milharescompartilhamentos, acrescentando que não recebeu nenhuma resposta convincente do atendimento ao consumidor da Apple — apenas que a questão era definida pelo algoritmo.

Até mesmo Steve Wozniak, cofundador da Apple (mas que não trabalha na empresa desde os anos 1980), afirmou que o mesmo aconteceu com ele emulher — e também criticou a dificuldadecorrigir erros nos algoritmos das empresastecnologia atualmente.

"(Eu e minha mulher) temos diferença10 vezesnosso limitecrédito no Apple Card", afirmou. "Um gerente humanonível (hierárquico) inferior deveria ter autorização para corrigirsituação", agregouresposta a Hansson.

"Mas esses valores bons não se estendem a companhiastecnologia atualmente. (...) Vai saber o que é o algoritmo. Claramente, um humano tomaria as atitudes corretas, mas a tecnologia é mais importante que pessoas nos diashoje."

Investigação

O DepartamentoServiços Financeiros do EstadoNova York (DFS, na siglainglês), órgão público encarregadoregular serviços e produtos bancários,seguradoras e similares, acionou o banco Goldman Sachs, que emite os cartões.

A empresa, que também é um dos maiores gruposinvestimento do mundo, publicou, no Twitter, um comunicado afirmando que "não tomamos nem tomaremos decisões baseadasfatores como o gênero".

Também afirmou que as contascrédito do Apple Card funcionam "individualmente" e que cada caso "é avaliadomodo independente".

Leo Kelion, editortecnologia da BBC, explica que só o acesso aos computadores do Goldman Sachs esclareceria a situação. "O fatoque parece haver uma correlação entre gênero e crédito não necessariamente significa que um está causando o outro", afirma. "Mesmo assim, a suspeita éque uma parcialidade não intencional tenha se embrenhado no sistema."

Ele explica que é possível que os algoritmos tenham levadoconta séries históricasdados que indicassem as mulheres como um risco financeiro maior, o que poderia fazer com que o sistema baixasse o crédito para mulheresgeral.

Ou pode ser que haja problemas na forma como os algoritmos estão sendo alimentados atualmente. "Por exemplo, com casais, talvez haja mais probabilidadehomens pedirem empréstimos apenasseu próprio nome,vezfazê-loconjunto com seu cônjuge, e o algoritmo pode não ter sido ajustado para levar esse tipocoisaconsideração", diz Kelion.

O DFS, porvez, afirmou que qualquer disciminação, intencional ou não, "viola as leisNova York" sobre serviços financeiros e queinvestigação pretende "garantir que todos os clientes sejam tratadosmaneira equitativa, sem importar seu gênero".

A BBC contactou o Goldman Sachs a respeito do caso, mas não obteve resposta até o momento. No sábado, a empresa afirmou à agência Bloomberg que "suas decisõescrédito se baseiam na solvência do cliente, e nãofatores como gênero, raça, idade, orientação sexual ou qualquer outro aspecto proibido por lei."

O Apple Card foi lançadoagosto e é o primeiro cartãocrédito da empresa, que oferece também nos EUA produtos como empréstimos e contas por meioseu banco online Marcus.

A empresa até agora não se pronunciou oficialmente sobre a polêmica.

Não é a primeira tecnologia questionada a respeitopossíveis práticas discriminatórias nos EUA. Em outubro, a gigante médica United Health Group também está sendo investigada pelo DFS por um algoritmo acusadofavorecer clientes brancosrelação a negros. A empresa afirmou ao Wall Street Journal que o algoritmo é apenas uma entre as múltiplas ferramentas usadas para analisar as necessidades dos pacientes.

Para Jonathan Williams, da consultoria Mk2, "houve muitos passos, nos últimos cinco ou seis anos, para melhorar as explicações por trásdecisões tomadas por técnicas'machine learning'",que máquinas usam grandes quantidadesdados para prever comportamentos ou estipular regras. "Mas,alguns casos, isso ainda não é tão bom quanto deveria ser."

Já assistiu aos nossos novos vídeos no YouTube ? Inscreva-se no nosso canal!