Inteligência artificial: o que podemos aprender com Matrix e outros filmesgp pokerficção científica:gp poker

Em um alerta apocalíptico divulgado esta semana, pesquisadoresgp pokerrenome citaram o enredogp pokerum grande filme para ilustrar uma sériegp poker"cenáriosgp pokerdesastre" relacionados à inteligência artifical (IA). Na visão deles, esses riscos ameaçam a própria existência da humanidade.

Dois dos três chamados "padrinhos da IA" estão preocupados — embora o terceiro deles discorde da avaliação, dizendo que tais "profeciasgp pokerdestruição" são um absurdo.

Ao tentar dar sentido a esses alertas durante uma entrevista com um desses pesquisadores, um apresentador da televisão britânica usou o cinema como exemplo.

“Como alguém que não tem experiência nessa área, penso no Exterminador do Futuro e na Skynet - sistemagp pokerIA, vilã do filme -, alémgp pokeroutros filmes que vi", disse.

E ele não está sozinho nesse tipogp pokercomparação. Os organizadores da declaraçãogp pokeralerta — o Centro para Segurançagp pokerIA (Cais, na siglagp pokeringlês) — usaram a animação Wall-E, da Pixar, como um exemplo das possíveis ameaças relacionadas à IA.

A ficção científica sempre foi um caminho para adivinhar o que o futuro reserva à humanidade. Muito raramente, ela acerta algumas coisas.

Com as ameaças potenciais listadas pelo Cais no alerta recente, será que os sucessosgp pokerbilheteriagp pokerHollywood têm algo a nos dizer sobre os perigos da IA?

'Vulnerabilidade'

Wall-E e Minority Report

O Cais diz que “vulnerabilidade” é quando a humanidade “se torna totalmente dependente das máquinas, semelhante ao cenário retratado no filme Wall-E”.

Caso você não se lembre do enredo, os humanos retratados nesta animação eram seres felizes que não trabalhavam e mal conseguiam ficargp pokerpé sozinhos. Os robôs cuidavamgp pokertudo para eles.

Adivinhar se issogp pokerfato é possível para toda a nossa espécie carrega a incertezagp pokerprever o futuro numa bolagp pokercristal.

Mas há outra formagp pokerdependência mais insidiosa que não está tão distante assimgp pokernós. Essa é a entrega do poder a uma tecnologia que talvez não entendamos completamente, avalia Stephanie Hare, pesquisadoragp pokeréticagp pokerIA e autora do livro Technology Is Not Neutral ("A Tecnologia Não é Neutra",gp pokertradução livre).

Pensegp pokerMinority Report, retratado no início deste artigo. O respeitado policial John Anderton (interpretado por Tom Cruise) é acusadogp pokerum crime que não cometeu porque os sistemas construídos para prever transgressões à lei têm certezagp pokerque ele o fará no futuro.

"O policiamento preditivo já está aqui — a políciagp pokerLondres faz uso dele", diz Hare.

No filme, a vidagp pokerTom Cruise é arruinada por um sistema "inquestionável", que ele não entende totalmente.

Mas o que acontece na prática quando alguém precisa se submeter a "uma decisão que altera a vida" — como um pedidogp pokerfinanciamento imobiliário ougp pokerliberdade condicional — que acaba recusada pela IA?

Hoje, um humano poderia explicar por que você não atendeu aos critérios. Mas muitos sistemasgp pokerIA são opacos e até mesmo os pesquisadores que os construíram não entendem completamente o caminho até a tomadagp pokerdecisão.

"Nós apenas alimentamos os dados, o computador faz alguma coisa, a mágica acontece e, então, um resultado aparece", detalha Hare.

A tecnologia pode ser eficiente, mas é discutível se ela deve ser usadagp pokercenários críticos, como policiamento, saúde ou guerra, entende a pesquisadora.

"Se o resultado não pode ser explicado, não está tudo bem."

'Armamento'

O Exterminador do Futuro

O verdadeiro vilão da franquia O Exterminador do Futuro não é o robô assassino interpretado por Arnold Schwarzenegger: trata-se, na verdade, da Skynet, uma IA projetada para defender e proteger a humanidade.

Um dia, ela superou a programação e decidiu que as pessoas eram a maior ameaçagp pokertodas — um argumento cinematográfico comum.

É claro que estamos muito longe da Skynet. Mas alguns especulam que acabaremos por construir uma inteligência artificial generalizada (AGI) que poderia fazer tudo o que os humanos podem realizargp pokermelhor — e talvez seja até autoconsciente.

Para Nathan Benaich, fundador da empresagp pokerinvestimentosgp pokerIA Air Street Capital,gp pokerLondres, esse cenário é um pouco exagerado.

"A ficção científica costuma nos dizer muito mais sobre seus criadores e nossa cultura do que sobre a tecnologia", aponta ele.

Benaich acrescenta que as previsões sobre o futuro raramente acontecem.

"No início do século 20, se imaginava um mundogp pokercarros voadores, onde as pessoas se comunicavam por telefones comuns — enquanto agora viajamos da mesma maneira, mas nos comunicamosgp pokeruma forma completamente diferente."

O que temos hoje está a caminhogp pokerse tornar algo mais parecido com o computadorgp pokerbordogp pokerStar Trek do que com a Skynet.

"Computador, mostre-me uma listagp pokertodos os membros da tripulação", você pode dizer, e nossa IAgp pokerhoje já pode fornecê-la e responder a perguntas sobre a listagp pokerlinguagem comum.

Ela não consegue, no entanto, substituir a tripulação — ou disparar os torpedosgp pokerum veículo militar.

As preocupações com a manipulaçãogp pokerarmamentos dizem respeito à integração da IA no hardware militar — algo que já é discutido — e se podemos confiar na tecnologiagp pokercenáriosgp pokervida ou morte.

Os pessimistas também estão preocupados com o potencialgp pokeruma IA projetada para transformar medicaçõesgp pokerarmas químicas ou ameaças semelhantes.

'Objetivos divergentes'

2001 - Uma Odisseia no Espaço

Outro enredo popular no cinema não é que a IA seja má — mas sim, está equivocada.

Em 2001 - Uma Odisseia no Espaço,gp pokerStanley Kubrick, conhecemos o HAL-9000, um supercomputador que controla a maior parte das funções da nave Discovery e facilita a vida dos astronautas — até que ela começa a apresentar problemasgp pokerfuncionamento.

Os astronautas decidem desconectar o HAL e assumir o controle sozinhos. Mas HAL — que sabe coisas que os astronautas não entendem — decide que essa decisão compromete a missão.

Os astronautas até tentam, mas o robô os engana — e mata a maioria deles.

Ao contráriogp pokeruma Skynet autoconsciente, você poderia argumentar que HAL está fazendo o que lhe foi dito — afinal, ele tenta preservar a missão, mas não da maneira que se esperava.

Na linguagem moderna da área, os sistemasgp pokerIA malcomportados são considerados "desalinhados". Os objetivos deles passam a não corresponder mais aos desejos humanos.

Às vezes, isso ocorre porque as instruções não eram claras o suficiente ou porque a IA é inteligente o suficiente para encontrar um atalho.

Por exemplo, se a tarefagp pokeruma IA for "certifique-segp pokerquegp pokerresposta e este documentogp pokertexto correspondam", ela pode decidir que o melhor caminho é alterar o documentogp pokertexto para uma resposta mais fácil.

Isso não é o que o humano pretendia, mas estaria tecnicamente correto.

Portanto, embora 2001 - Uma Odisseia no Espaço esteja longe da realidade, a obra reflete um problema muito real dos sistemasgp pokerIA atuais.

'Desinformação'

Matrix

"Como você saberia a diferença entre o mundo dos sonhos e o mundo real?", questiona Morpheus (Laurence Fishburne) a um jovem Neo (Keanu Reeves)gp pokerMatrix,gp poker1999.

A história — sobre como a maioria das pessoas vive sem perceber que o mundo é uma farsa digital — constrói uma boa metáfora para a atual explosãogp pokerdesinformação gerada pela IA.

Hare diz que Matrix é um pontogp pokerpartida útil para "conversas sobre desinformação e deepfakes".

"O que isso significaria para as eleições? E para a manipulação do mercadogp pokerações? E para os direitos humanos e as liberdades civis?", questiona ela.

O ChatGPT e os geradoresgp pokerimagens já estão fabricando conteúdos culturais que parecem reais, mas podem estar totalmente errados ou serem mentirosos.

Há também um lado muito mais sombrio — como a criaçãogp pokerpornografia por meiogp pokerdeepfakes que é extremamente difícil para as vítimas desmentirem.

"Se isso acontecer comigo ou com alguém que amo, não há nada que possamos fazer para nos proteger agora", alerta Hare.

O que realmente pode acontecer

Como então encarar o alerta dos principais especialistasgp pokerIA, que chegaram a comparar o perigo dessa tecnologia à guerra nuclear?

"Eu acho que [o alerta] foi muito irresponsável", critica Hare.

"Se eles realmente pensam isso, deveriam parargp pokerdesenvolvê-la."

Provavelmente não é com os robôs assassinos que precisamos nos preocupar, avalia a especialista — mas, sim, com um acidente não intencional.

"Teremos uma alta segurança no setor bancário. Também haverá muito cuidadogp pokerrelação às armas. Portanto, o que os invasores poderiam fazer é criar [uma IA] talvez esperando que eles pudessem ganhar um poucogp pokerdinheiro ou fazer uma inflexão nas esferasgp pokerpoder. E, a partir daí, eles perderiam o controle sobre ela", antevê a pesquisadora.

"Imagine todos os problemasgp pokersegurança cibernética que tivemos, mas multiplicados por um bilhão, porque tudo será mais rápido."

Benaich, da Air Street Capital, relutagp pokerfazer qualquer suposição sobre possíveis problemas futuros.

“Acho que a IA transformará muitos setores desde o início, [mas] precisamos ser supercuidadosos ao tomar decisões apressadas com basegp pokerhistórias delirantes e bizarras, onde grandes saltos são assumidos sem uma noçãogp pokercomo será a ponte entre eles", alerta ele.