Por que algoritmos das redes sociais estão cada vez mais perigosos, na visãocampeão libertadores 2024pioneiro da Inteligência Artificial:campeão libertadores 2024

E, assim, tornam-se "cegas" e indiferentes aos problemas (ou,campeão libertadores 2024última instância, à destruição) que podem causar aos humanos.

Para explicar isso à BBC News Brasil, Russell usa a metáforacampeão libertadores 2024um gêniocampeão libertadores 2024lâmpada atendendo aos desejoscampeão libertadores 2024seu mestre: "você pede ao gênio que te torne a pessoa mais rica do mundo, e assim acontece - mas só porque o gênio fez o resto das pessoas desaparecerem", diz.

"(Na IA) construímos máquinas com o que chamocampeão libertadores 2024modelos padrão: elas recebem objetivos que têmcampeão libertadores 2024conquistar ou otimizar, (ou seja), para os quais têmcampeão libertadores 2024encontrar a melhor solução possível. E aí levam a cabo essa ação."

Mesmo que essa ação seja, na prática, prejudicial aos humanos, ele argumenta.

"Se construirmos a Inteligência Artificialcampeão libertadores 2024modo a otimizar um objetivo fixo dado por nós, elas (máquinas) serão quase como psicopatas - perseguindo esse objetivo e sendo completamente alheias a todo o restante, até mesmo se pedirmos a elas que parem."

Um exemplo cotidiano disso, opina Russell, são os algoritmos que regem as redes sociais - que ficaram tãocampeão libertadores 2024evidência com a pane global que afetou Facebook, Instagram e WhatsApp durante cercacampeão libertadores 2024seis horascampeão libertadores 2024uma segunda-feira no iníciocampeão libertadores 2024outubro.

A tarefa principal desses algoritmos é favorecer a experiência do usuário nas redes sociais - por exemplo, coletando o máximocampeão libertadores 2024informações possível sobre esse usuário e fornecendo a ele conteúdo que se adeque a suas preferências, fazendo com que ele permaneça mais tempo conectado.

Mesmo que isso ocorra às custas do bem-estar desse usuário ou da cidadania global, prossegue o pesquisador.

"As redes sociais criam vício, depressão, disfunção social, talvez extremismo, polarização da sociedade, talvez contribuam para espalhar desinformação. E está claro que seus algoritmos estão projetados para otimizar um objetivo: que as pessoas cliquem, que passem mais tempo engajadas com o conteúdo", pontua Russell.

"E, ao otimizar essas quantidades, podem estar causando enormes problemas para a sociedade."

No entanto, prossegue Russell, esses algoritmos não sofrem escrutínio o bastante para que possam ser verificados ou "consertados" - dessa forma, seguem trabalhando para otimizar seu objetivo, indiferentes ao dano colateral.

"(As redes sociais) não apenas estão otimizando a coisa errada, como também estão manipulando as pessoas, porque ao manipulá-las consegue-se aumentar seu engajamento. Se posso tornar você mais previsível, por exemplo transformando vocêcampeão libertadores 2024uma eco-terrorista extremista, posso te mandar conteúdo eco-terrorista e ter certezacampeão libertadores 2024que você vai clicar, e assim maximizar meus cliques."

Essas críticas foram reforçadas no iníciocampeão libertadores 2024outubro pela ex-funcionária do Facebook (e atual informante) Frances Haugen, que depôscampeão libertadores 2024audiência no Congresso americano e afirmou que os sites e aplicativos da rede social "trazem danos às crianças, provocam divisões e enfraquecem a democracia". O Facebook reagiu dizendo que Haugen não tem conhecimento suficiente para fazer tais afirmações.

IA com 'valores humanos'

Russell, porcampeão libertadores 2024vez, detalhará suas teorias a um públicocampeão libertadores 2024pesquisadores brasileiroscampeão libertadores 202413campeão libertadores 2024outubro, durante a conferência magna do encontro da Academia Brasileiracampeão libertadores 2024Ciências, virtualmente.

O pesquisador, autorcampeão libertadores 2024Compatibilidade Humana: Inteligência Artificial e o Problemacampeão libertadores 2024Controle (sem versão no Brasil), é considerado pioneiro no campo que chamacampeão libertadores 2024"Inteligência Artificial compatível com a existência humana".

"Precisamoscampeão libertadores 2024um tipo completamente diferentecampeão libertadores 2024sistemascampeão libertadores 2024IA", opina ele à BBC News Brasil.

Esse tipocampeão libertadores 2024IA, prossegue, teriacampeão libertadores 2024"saber" que possui limitações, que não pode cumprir seus objetivos a qualquer custo e que, mesmo sendo uma máquina, pode estar errado.

"Isso faria essa inteligência se comportarcampeão libertadores 2024um modo completamente diferente, mais cauteloso, (...) que vai pedir permissão antescampeão libertadores 2024fazer algo quando não tiver certezacampeão libertadores 2024se é o que queremos. E, no caso mais extremo, que queira ser desligada para não fazer algo que vá nos prejudicar. Essa é a minha principal mensagem."

A teoria defendida por Russell não é consenso: há quem não considere ameaçador esse modelo vigentecampeão libertadores 2024Inteligência Artificial.

Um exemplo famoso dos dois lados desse debate ocorreu alguns anos atrás,campeão libertadores 2024uma discordância pública entre os empresárioscampeão libertadores 2024tecnologia Mark Zuckerberg e Elon Musk.

Uma reportagem do The New York Times contou que,campeão libertadores 2024um jantar ocorridocampeão libertadores 20242014, os dois empresários debateram entre si: Musk apontou que "genuinamente acreditava no perigo"campeão libertadores 2024a Inteligência Artificial se tornar superior e subjugar os humanos.

Zuckerberg, porém, opinou que Musk estava sendo alarmista.

Em entrevista no mesmo ano, o criador do Facebook se considerou um "otimista" quanto à Inteligência Artificial e afirmou que críticos, como Musk, "estavam pintando cenários apocalípticos e irresponsáveis".

"Sempre que ouço gente dizendo que a IA vai prejudicar as pessoas no futuro, penso que a tecnologia geralmente pode ser usada para o bem e para o mal, e você precisa ter cuidado a respeitocampeão libertadores 2024como a constrói e como ela vai ser usada. Mas acho questionável que se argumente por reduzir o ritmo do processocampeão libertadores 2024IA. Não consigo entender isso."

Já Musk argumentou que a IA é "potencialmente mais perigosa do que ogivas nucleares".

Um lento e invisível 'desastre nuclear'

Stuart Russell se soma à preocupaçãocampeão libertadores 2024Musk e também traça paralelos com os perigos da corrida nuclear.

"Acho que muitos (especialistascampeão libertadores 2024tecnologia) consideram esse argumento (dos perigos da IA) ameaçador porque ele basicamente diz: 'a disciplina a que nos dedicamos há diversas décadas é potencialmente um grande risco'. Algumas pessoas veem isso como ser contrário à Inteligência Artificial", sustenta Russell.

"Mark Zuckerberg acha que os comentárioscampeão libertadores 2024Elon Musk são anti-IA, mas isso me parece ridículo. É como dizer que a advertênciacampeão libertadores 2024que uma bomba nuclear pode explodir é um argumento antifísica. Não é antifísica, é um complemento à física, por ter-se criado uma tecnologia tão poderosa que pode destruir o mundo. Ecampeão libertadores 2024fato tivemos (os acidentes nucleares de) Chernobyl, Fukushima, e a indústria foi dizimada porque não prestou atenção suficiente aos riscos. Então, se você quer obter os benefícios da IA, temcampeão libertadores 2024prestar atenção aos riscos."

O atual descontrole sobre os algoritmos das redes sociais, argumenta Russell, pode causar "enormes problemas para a sociedade" tambémcampeão libertadores 2024escala global, mas, diferentementecampeão libertadores 2024um desastre nuclear, "lentamente ecampeão libertadores 2024modo quase invisível".

Como, então, reverter esse curso?

Para Russell, talvez seja necessário um redesenho completo dos algoritmos das redes sociais. Mas, antes, é preciso conhecê-los a fundo, opina.

'Descobrir o que causa a polarização'

Russell aponta que no Facebook, por exemplo, nem mesmo o conselho independente encarregadocampeão libertadores 2024supervisionar a rede social tem acesso pleno ao algoritmo que faz a curadoria do conteúdo visto pelos usuários.

"Mas há um grupo grandecampeão libertadores 2024pesquisadores e um grande projetocampeão libertadores 2024curso na Parceria Globalcampeão libertadores 2024IA (GPAI, na siglacampeão libertadores 2024inglês), trabalhando com uma grande rede social que não posso identificar, para obter acesso a dados e fazer experimentos", diz Russell.

"O principal é fazer experimentos com gruposcampeão libertadores 2024controle, ver com as pessoas o que está causando a polarização social e a depressão, e (verificar) se mudar o algoritmo melhora isso."

"Não estou dizendo para as pessoas pararemcampeão libertadores 2024usar as redes sociais, nem que elas são inerentemente más", prossegue Russell. "(O problema) é a forma como os algoritmos funcionam, o usocampeão libertadores 2024likes,campeão libertadores 2024subir conteúdos (com basecampeão libertadores 2024preferências) oucampeão libertadores 2024jogá-los para baixo. O modo como o algoritmo escolhe o que colocar no seu feed parece ser baseadocampeão libertadores 2024métricas prejudiciais às pessoas. Então precisamos colocar o benefício do usuário como objetivo principal e isso vai fazer as coisas funcionarem melhor e as pessoas ficarão felizescampeão libertadores 2024usar seus sistemas."

Não haverá uma resposta única sobre o que é "benéfico". Portanto, argumenta o pesquisador, os algoritmos terãocampeão libertadores 2024adaptar esse conceito para cada usuário, individualmente - uma tarefa que, ele próprio admite, não é nada fácil. "Na verdade, essa (área das redes sociais) seria uma das mais difíceis onde se colocarcampeão libertadores 2024prática esse novo modelocampeão libertadores 2024IA", afirma.

"Acho que realmente teriam que começar do zero a coisa toda. É possível que acabemos entendendo a diferença entre manipulação aceitável e inaceitável. Por exemplo, no sistema educacional, manipulamos as crianças para torná-las cidadãos conhecedores, capazes, bem-sucedidos e bem integrados - e consideramos isso aceitável. Mas se o mesmo processo tornasse as crianças terroristas, seria uma manipulação inaceitável. Como, exatamente, diferenciar entre ambos? É uma questão bem difícil. As redes sociais realmente suscitam esses questionamentos bastante difíceis, que até filósofos têm dificuldadecampeão libertadores 2024responder."

campeão libertadores 2024 Já assistiu aos nossos novos vídeos no YouTube campeão libertadores 2024 ? Inscreva-se no nosso canal!