Inteligência artificial: o que podemos aprender com Matrix e outros filmesbrazino777 download do aplicativo móvelficção científica:brazino777 download do aplicativo móvel

Em um alerta apocalíptico divulgado esta semana, pesquisadoresbrazino777 download do aplicativo móvelrenome citaram o enredobrazino777 download do aplicativo móvelum grande filme para ilustrar uma sériebrazino777 download do aplicativo móvel"cenáriosbrazino777 download do aplicativo móveldesastre" relacionados à inteligência artifical (IA). Na visão deles, esses riscos ameaçam a própria existência da humanidade.

Dois dos três chamados "padrinhos da IA" estão preocupados — embora o terceiro deles discorde da avaliação, dizendo que tais "profeciasbrazino777 download do aplicativo móveldestruição" são um absurdo.

Ao tentar dar sentido a esses alertas durante uma entrevista com um desses pesquisadores, um apresentador da televisão britânica usou o cinema como exemplo.

“Como alguém que não tem experiência nessa área, penso no Exterminador do Futuro e na Skynet - sistemabrazino777 download do aplicativo móvelIA, vilã do filme -, alémbrazino777 download do aplicativo móveloutros filmes que vi", disse.

E ele não está sozinho nesse tipobrazino777 download do aplicativo móvelcomparação. Os organizadores da declaraçãobrazino777 download do aplicativo móvelalerta — o Centro para Segurançabrazino777 download do aplicativo móvelIA (Cais, na siglabrazino777 download do aplicativo móvelinglês) — usaram a animação Wall-E, da Pixar, como um exemplo das possíveis ameaças relacionadas à IA.

A ficção científica sempre foi um caminho para adivinhar o que o futuro reserva à humanidade. Muito raramente, ela acerta algumas coisas.

Com as ameaças potenciais listadas pelo Cais no alerta recente, será que os sucessosbrazino777 download do aplicativo móvelbilheteriabrazino777 download do aplicativo móvelHollywood têm algo a nos dizer sobre os perigos da IA?

'Vulnerabilidade'

Wall-E e Minority Report

O Cais diz que “vulnerabilidade” é quando a humanidade “se torna totalmente dependente das máquinas, semelhante ao cenário retratado no filme Wall-E”.

Caso você não se lembre do enredo, os humanos retratados nesta animação eram seres felizes que não trabalhavam e mal conseguiam ficarbrazino777 download do aplicativo móvelpé sozinhos. Os robôs cuidavambrazino777 download do aplicativo móveltudo para eles.

Adivinhar se issobrazino777 download do aplicativo móvelfato é possível para toda a nossa espécie carrega a incertezabrazino777 download do aplicativo móvelprever o futuro numa bolabrazino777 download do aplicativo móvelcristal.

Mas há outra formabrazino777 download do aplicativo móveldependência mais insidiosa que não está tão distante assimbrazino777 download do aplicativo móvelnós. Essa é a entrega do poder a uma tecnologia que talvez não entendamos completamente, avalia Stephanie Hare, pesquisadorabrazino777 download do aplicativo móveléticabrazino777 download do aplicativo móvelIA e autora do livro Technology Is Not Neutral ("A Tecnologia Não é Neutra",brazino777 download do aplicativo móveltradução livre).

Pensebrazino777 download do aplicativo móvelMinority Report, retratado no início deste artigo. O respeitado policial John Anderton (interpretado por Tom Cruise) é acusadobrazino777 download do aplicativo móvelum crime que não cometeu porque os sistemas construídos para prever transgressões à lei têm certezabrazino777 download do aplicativo móvelque ele o fará no futuro.

"O policiamento preditivo já está aqui — a políciabrazino777 download do aplicativo móvelLondres faz uso dele", diz Hare.

No filme, a vidabrazino777 download do aplicativo móvelTom Cruise é arruinada por um sistema "inquestionável", que ele não entende totalmente.

Mas o que acontece na prática quando alguém precisa se submeter a "uma decisão que altera a vida" — como um pedidobrazino777 download do aplicativo móvelfinanciamento imobiliário oubrazino777 download do aplicativo móvelliberdade condicional — que acaba recusada pela IA?

Hoje, um humano poderia explicar por que você não atendeu aos critérios. Mas muitos sistemasbrazino777 download do aplicativo móvelIA são opacos e até mesmo os pesquisadores que os construíram não entendem completamente o caminho até a tomadabrazino777 download do aplicativo móveldecisão.

"Nós apenas alimentamos os dados, o computador faz alguma coisa, a mágica acontece e, então, um resultado aparece", detalha Hare.

A tecnologia pode ser eficiente, mas é discutível se ela deve ser usadabrazino777 download do aplicativo móvelcenários críticos, como policiamento, saúde ou guerra, entende a pesquisadora.

"Se o resultado não pode ser explicado, não está tudo bem."

'Armamento'

O Exterminador do Futuro

O verdadeiro vilão da franquia O Exterminador do Futuro não é o robô assassino interpretado por Arnold Schwarzenegger: trata-se, na verdade, da Skynet, uma IA projetada para defender e proteger a humanidade.

Um dia, ela superou a programação e decidiu que as pessoas eram a maior ameaçabrazino777 download do aplicativo móveltodas — um argumento cinematográfico comum.

É claro que estamos muito longe da Skynet. Mas alguns especulam que acabaremos por construir uma inteligência artificial generalizada (AGI) que poderia fazer tudo o que os humanos podem realizarbrazino777 download do aplicativo móvelmelhor — e talvez seja até autoconsciente.

Para Nathan Benaich, fundador da empresabrazino777 download do aplicativo móvelinvestimentosbrazino777 download do aplicativo móvelIA Air Street Capital,brazino777 download do aplicativo móvelLondres, esse cenário é um pouco exagerado.

"A ficção científica costuma nos dizer muito mais sobre seus criadores e nossa cultura do que sobre a tecnologia", aponta ele.

Benaich acrescenta que as previsões sobre o futuro raramente acontecem.

"No início do século 20, se imaginava um mundobrazino777 download do aplicativo móvelcarros voadores, onde as pessoas se comunicavam por telefones comuns — enquanto agora viajamos da mesma maneira, mas nos comunicamosbrazino777 download do aplicativo móveluma forma completamente diferente."

O que temos hoje está a caminhobrazino777 download do aplicativo móvelse tornar algo mais parecido com o computadorbrazino777 download do aplicativo móvelbordobrazino777 download do aplicativo móvelStar Trek do que com a Skynet.

"Computador, mostre-me uma listabrazino777 download do aplicativo móveltodos os membros da tripulação", você pode dizer, e nossa IAbrazino777 download do aplicativo móvelhoje já pode fornecê-la e responder a perguntas sobre a listabrazino777 download do aplicativo móvellinguagem comum.

Ela não consegue, no entanto, substituir a tripulação — ou disparar os torpedosbrazino777 download do aplicativo móvelum veículo militar.

As preocupações com a manipulaçãobrazino777 download do aplicativo móvelarmamentos dizem respeito à integração da IA no hardware militar — algo que já é discutido — e se podemos confiar na tecnologiabrazino777 download do aplicativo móvelcenáriosbrazino777 download do aplicativo móvelvida ou morte.

Os pessimistas também estão preocupados com o potencialbrazino777 download do aplicativo móveluma IA projetada para transformar medicaçõesbrazino777 download do aplicativo móvelarmas químicas ou ameaças semelhantes.

'Objetivos divergentes'

2001 - Uma Odisseia no Espaço

Outro enredo popular no cinema não é que a IA seja má — mas sim, está equivocada.

Em 2001 - Uma Odisseia no Espaço,brazino777 download do aplicativo móvelStanley Kubrick, conhecemos o HAL-9000, um supercomputador que controla a maior parte das funções da nave Discovery e facilita a vida dos astronautas — até que ela começa a apresentar problemasbrazino777 download do aplicativo móvelfuncionamento.

Os astronautas decidem desconectar o HAL e assumir o controle sozinhos. Mas HAL — que sabe coisas que os astronautas não entendem — decide que essa decisão compromete a missão.

Os astronautas até tentam, mas o robô os engana — e mata a maioria deles.

Ao contráriobrazino777 download do aplicativo móveluma Skynet autoconsciente, você poderia argumentar que HAL está fazendo o que lhe foi dito — afinal, ele tenta preservar a missão, mas não da maneira que se esperava.

Na linguagem moderna da área, os sistemasbrazino777 download do aplicativo móvelIA malcomportados são considerados "desalinhados". Os objetivos deles passam a não corresponder mais aos desejos humanos.

Às vezes, isso ocorre porque as instruções não eram claras o suficiente ou porque a IA é inteligente o suficiente para encontrar um atalho.

Por exemplo, se a tarefabrazino777 download do aplicativo móveluma IA for "certifique-sebrazino777 download do aplicativo móvelquebrazino777 download do aplicativo móvelresposta e este documentobrazino777 download do aplicativo móveltexto correspondam", ela pode decidir que o melhor caminho é alterar o documentobrazino777 download do aplicativo móveltexto para uma resposta mais fácil.

Isso não é o que o humano pretendia, mas estaria tecnicamente correto.

Portanto, embora 2001 - Uma Odisseia no Espaço esteja longe da realidade, a obra reflete um problema muito real dos sistemasbrazino777 download do aplicativo móvelIA atuais.

'Desinformação'

Matrix

"Como você saberia a diferença entre o mundo dos sonhos e o mundo real?", questiona Morpheus (Laurence Fishburne) a um jovem Neo (Keanu Reeves)brazino777 download do aplicativo móvelMatrix,brazino777 download do aplicativo móvel1999.

A história — sobre como a maioria das pessoas vive sem perceber que o mundo é uma farsa digital — constrói uma boa metáfora para a atual explosãobrazino777 download do aplicativo móveldesinformação gerada pela IA.

Hare diz que Matrix é um pontobrazino777 download do aplicativo móvelpartida útil para "conversas sobre desinformação e deepfakes".

"O que isso significaria para as eleições? E para a manipulação do mercadobrazino777 download do aplicativo móvelações? E para os direitos humanos e as liberdades civis?", questiona ela.

O ChatGPT e os geradoresbrazino777 download do aplicativo móvelimagens já estão fabricando conteúdos culturais que parecem reais, mas podem estar totalmente errados ou serem mentirosos.

Há também um lado muito mais sombrio — como a criaçãobrazino777 download do aplicativo móvelpornografia por meiobrazino777 download do aplicativo móveldeepfakes que é extremamente difícil para as vítimas desmentirem.

"Se isso acontecer comigo ou com alguém que amo, não há nada que possamos fazer para nos proteger agora", alerta Hare.

O que realmente pode acontecer

Como então encarar o alerta dos principais especialistasbrazino777 download do aplicativo móvelIA, que chegaram a comparar o perigo dessa tecnologia à guerra nuclear?

"Eu acho que [o alerta] foi muito irresponsável", critica Hare.

"Se eles realmente pensam isso, deveriam pararbrazino777 download do aplicativo móveldesenvolvê-la."

Provavelmente não é com os robôs assassinos que precisamos nos preocupar, avalia a especialista — mas, sim, com um acidente não intencional.

"Teremos uma alta segurança no setor bancário. Também haverá muito cuidadobrazino777 download do aplicativo móvelrelação às armas. Portanto, o que os invasores poderiam fazer é criar [uma IA] talvez esperando que eles pudessem ganhar um poucobrazino777 download do aplicativo móveldinheiro ou fazer uma inflexão nas esferasbrazino777 download do aplicativo móvelpoder. E, a partir daí, eles perderiam o controle sobre ela", antevê a pesquisadora.

"Imagine todos os problemasbrazino777 download do aplicativo móvelsegurança cibernética que tivemos, mas multiplicados por um bilhão, porque tudo será mais rápido."

Benaich, da Air Street Capital, relutabrazino777 download do aplicativo móvelfazer qualquer suposição sobre possíveis problemas futuros.

“Acho que a IA transformará muitos setores desde o início, [mas] precisamos ser supercuidadosos ao tomar decisões apressadas com basebrazino777 download do aplicativo móvelhistórias delirantes e bizarras, onde grandes saltos são assumidos sem uma noçãobrazino777 download do aplicativo móvelcomo será a ponte entre eles", alerta ele.