Inteligência artificial: o que podemos aprender com Matrix e outros filmescoritiba x santos apostaficção científica:coritiba x santos aposta

Em um alerta apocalíptico divulgado esta semana, pesquisadorescoritiba x santos apostarenome citaram o enredocoritiba x santos apostaum grande filme para ilustrar uma sériecoritiba x santos aposta"cenárioscoritiba x santos apostadesastre" relacionados à inteligência artifical (IA). Na visão deles, esses riscos ameaçam a própria existência da humanidade.

Dois dos três chamados "padrinhos da IA" estão preocupados — embora o terceiro deles discorde da avaliação, dizendo que tais "profeciascoritiba x santos apostadestruição" são um absurdo.

Ao tentar dar sentido a esses alertas durante uma entrevista com um desses pesquisadores, um apresentador da televisão britânica usou o cinema como exemplo.

“Como alguém que não tem experiência nessa área, penso no Exterminador do Futuro e na Skynet - sistemacoritiba x santos apostaIA, vilã do filme -, alémcoritiba x santos apostaoutros filmes que vi", disse.

E ele não está sozinho nesse tipocoritiba x santos apostacomparação. Os organizadores da declaraçãocoritiba x santos apostaalerta — o Centro para Segurançacoritiba x santos apostaIA (Cais, na siglacoritiba x santos apostainglês) — usaram a animação Wall-E, da Pixar, como um exemplo das possíveis ameaças relacionadas à IA.

A ficção científica sempre foi um caminho para adivinhar o que o futuro reserva à humanidade. Muito raramente, ela acerta algumas coisas.

Com as ameaças potenciais listadas pelo Cais no alerta recente, será que os sucessoscoritiba x santos apostabilheteriacoritiba x santos apostaHollywood têm algo a nos dizer sobre os perigos da IA?

'Vulnerabilidade'

Wall-E e Minority Report

O Cais diz que “vulnerabilidade” é quando a humanidade “se torna totalmente dependente das máquinas, semelhante ao cenário retratado no filme Wall-E”.

Caso você não se lembre do enredo, os humanos retratados nesta animação eram seres felizes que não trabalhavam e mal conseguiam ficarcoritiba x santos apostapé sozinhos. Os robôs cuidavamcoritiba x santos apostatudo para eles.

Adivinhar se issocoritiba x santos apostafato é possível para toda a nossa espécie carrega a incertezacoritiba x santos apostaprever o futuro numa bolacoritiba x santos apostacristal.

Mas há outra formacoritiba x santos apostadependência mais insidiosa que não está tão distante assimcoritiba x santos apostanós. Essa é a entrega do poder a uma tecnologia que talvez não entendamos completamente, avalia Stephanie Hare, pesquisadoracoritiba x santos apostaéticacoritiba x santos apostaIA e autora do livro Technology Is Not Neutral ("A Tecnologia Não é Neutra",coritiba x santos apostatradução livre).

Pensecoritiba x santos apostaMinority Report, retratado no início deste artigo. O respeitado policial John Anderton (interpretado por Tom Cruise) é acusadocoritiba x santos apostaum crime que não cometeu porque os sistemas construídos para prever transgressões à lei têm certezacoritiba x santos apostaque ele o fará no futuro.

"O policiamento preditivo já está aqui — a políciacoritiba x santos apostaLondres faz uso dele", diz Hare.

No filme, a vidacoritiba x santos apostaTom Cruise é arruinada por um sistema "inquestionável", que ele não entende totalmente.

Mas o que acontece na prática quando alguém precisa se submeter a "uma decisão que altera a vida" — como um pedidocoritiba x santos apostafinanciamento imobiliário oucoritiba x santos apostaliberdade condicional — que acaba recusada pela IA?

Hoje, um humano poderia explicar por que você não atendeu aos critérios. Mas muitos sistemascoritiba x santos apostaIA são opacos e até mesmo os pesquisadores que os construíram não entendem completamente o caminho até a tomadacoritiba x santos apostadecisão.

"Nós apenas alimentamos os dados, o computador faz alguma coisa, a mágica acontece e, então, um resultado aparece", detalha Hare.

A tecnologia pode ser eficiente, mas é discutível se ela deve ser usadacoritiba x santos apostacenários críticos, como policiamento, saúde ou guerra, entende a pesquisadora.

"Se o resultado não pode ser explicado, não está tudo bem."

'Armamento'

O Exterminador do Futuro

O verdadeiro vilão da franquia O Exterminador do Futuro não é o robô assassino interpretado por Arnold Schwarzenegger: trata-se, na verdade, da Skynet, uma IA projetada para defender e proteger a humanidade.

Um dia, ela superou a programação e decidiu que as pessoas eram a maior ameaçacoritiba x santos apostatodas — um argumento cinematográfico comum.

É claro que estamos muito longe da Skynet. Mas alguns especulam que acabaremos por construir uma inteligência artificial generalizada (AGI) que poderia fazer tudo o que os humanos podem realizarcoritiba x santos apostamelhor — e talvez seja até autoconsciente.

Para Nathan Benaich, fundador da empresacoritiba x santos apostainvestimentoscoritiba x santos apostaIA Air Street Capital,coritiba x santos apostaLondres, esse cenário é um pouco exagerado.

"A ficção científica costuma nos dizer muito mais sobre seus criadores e nossa cultura do que sobre a tecnologia", aponta ele.

Benaich acrescenta que as previsões sobre o futuro raramente acontecem.

"No início do século 20, se imaginava um mundocoritiba x santos apostacarros voadores, onde as pessoas se comunicavam por telefones comuns — enquanto agora viajamos da mesma maneira, mas nos comunicamoscoritiba x santos apostauma forma completamente diferente."

O que temos hoje está a caminhocoritiba x santos apostase tornar algo mais parecido com o computadorcoritiba x santos apostabordocoritiba x santos apostaStar Trek do que com a Skynet.

"Computador, mostre-me uma listacoritiba x santos apostatodos os membros da tripulação", você pode dizer, e nossa IAcoritiba x santos apostahoje já pode fornecê-la e responder a perguntas sobre a listacoritiba x santos apostalinguagem comum.

Ela não consegue, no entanto, substituir a tripulação — ou disparar os torpedoscoritiba x santos apostaum veículo militar.

As preocupações com a manipulaçãocoritiba x santos apostaarmamentos dizem respeito à integração da IA no hardware militar — algo que já é discutido — e se podemos confiar na tecnologiacoritiba x santos apostacenárioscoritiba x santos apostavida ou morte.

Os pessimistas também estão preocupados com o potencialcoritiba x santos apostauma IA projetada para transformar medicaçõescoritiba x santos apostaarmas químicas ou ameaças semelhantes.

'Objetivos divergentes'

2001 - Uma Odisseia no Espaço

Outro enredo popular no cinema não é que a IA seja má — mas sim, está equivocada.

Em 2001 - Uma Odisseia no Espaço,coritiba x santos apostaStanley Kubrick, conhecemos o HAL-9000, um supercomputador que controla a maior parte das funções da nave Discovery e facilita a vida dos astronautas — até que ela começa a apresentar problemascoritiba x santos apostafuncionamento.

Os astronautas decidem desconectar o HAL e assumir o controle sozinhos. Mas HAL — que sabe coisas que os astronautas não entendem — decide que essa decisão compromete a missão.

Os astronautas até tentam, mas o robô os engana — e mata a maioria deles.

Ao contráriocoritiba x santos apostauma Skynet autoconsciente, você poderia argumentar que HAL está fazendo o que lhe foi dito — afinal, ele tenta preservar a missão, mas não da maneira que se esperava.

Na linguagem moderna da área, os sistemascoritiba x santos apostaIA malcomportados são considerados "desalinhados". Os objetivos deles passam a não corresponder mais aos desejos humanos.

Às vezes, isso ocorre porque as instruções não eram claras o suficiente ou porque a IA é inteligente o suficiente para encontrar um atalho.

Por exemplo, se a tarefacoritiba x santos apostauma IA for "certifique-secoritiba x santos apostaquecoritiba x santos apostaresposta e este documentocoritiba x santos apostatexto correspondam", ela pode decidir que o melhor caminho é alterar o documentocoritiba x santos apostatexto para uma resposta mais fácil.

Isso não é o que o humano pretendia, mas estaria tecnicamente correto.

Portanto, embora 2001 - Uma Odisseia no Espaço esteja longe da realidade, a obra reflete um problema muito real dos sistemascoritiba x santos apostaIA atuais.

'Desinformação'

Matrix

"Como você saberia a diferença entre o mundo dos sonhos e o mundo real?", questiona Morpheus (Laurence Fishburne) a um jovem Neo (Keanu Reeves)coritiba x santos apostaMatrix,coritiba x santos aposta1999.

A história — sobre como a maioria das pessoas vive sem perceber que o mundo é uma farsa digital — constrói uma boa metáfora para a atual explosãocoritiba x santos apostadesinformação gerada pela IA.

Hare diz que Matrix é um pontocoritiba x santos apostapartida útil para "conversas sobre desinformação e deepfakes".

"O que isso significaria para as eleições? E para a manipulação do mercadocoritiba x santos apostaações? E para os direitos humanos e as liberdades civis?", questiona ela.

O ChatGPT e os geradorescoritiba x santos apostaimagens já estão fabricando conteúdos culturais que parecem reais, mas podem estar totalmente errados ou serem mentirosos.

Há também um lado muito mais sombrio — como a criaçãocoritiba x santos apostapornografia por meiocoritiba x santos apostadeepfakes que é extremamente difícil para as vítimas desmentirem.

"Se isso acontecer comigo ou com alguém que amo, não há nada que possamos fazer para nos proteger agora", alerta Hare.

O que realmente pode acontecer

Como então encarar o alerta dos principais especialistascoritiba x santos apostaIA, que chegaram a comparar o perigo dessa tecnologia à guerra nuclear?

"Eu acho que [o alerta] foi muito irresponsável", critica Hare.

"Se eles realmente pensam isso, deveriam pararcoritiba x santos apostadesenvolvê-la."

Provavelmente não é com os robôs assassinos que precisamos nos preocupar, avalia a especialista — mas, sim, com um acidente não intencional.

"Teremos uma alta segurança no setor bancário. Também haverá muito cuidadocoritiba x santos apostarelação às armas. Portanto, o que os invasores poderiam fazer é criar [uma IA] talvez esperando que eles pudessem ganhar um poucocoritiba x santos apostadinheiro ou fazer uma inflexão nas esferascoritiba x santos apostapoder. E, a partir daí, eles perderiam o controle sobre ela", antevê a pesquisadora.

"Imagine todos os problemascoritiba x santos apostasegurança cibernética que tivemos, mas multiplicados por um bilhão, porque tudo será mais rápido."

Benaich, da Air Street Capital, relutacoritiba x santos apostafazer qualquer suposição sobre possíveis problemas futuros.

“Acho que a IA transformará muitos setores desde o início, [mas] precisamos ser supercuidadosos ao tomar decisões apressadas com basecoritiba x santos apostahistórias delirantes e bizarras, onde grandes saltos são assumidos sem uma noçãocoritiba x santos apostacomo será a ponte entre eles", alerta ele.