Como o filme 'O Exterminador do Futuro' previu há 40 anos nossos medos sobre inteligência artificial:maquininha caca niquel

Com robôs assassinos e um sistemamaquininha caca niquelinteligência artificial (IA) rebelde, chamado Skynet, O Exterminador do Futuro se tornou sinônimo do espectromaquininha caca niqueluma IA que se volta contra seus criadores humanos.

Os editoresmaquininha caca niquelimagens ilustram rotineiramente artigos sobre inteligência artificial com a caveira cromada do ciborgue assassino T-800 do filme. O roboticista Ronald Arkin usou trechos do filme durante uma palestramaquininha caca niqueladvertênciamaquininha caca niquel2013 chamada "Como NÃO construir um Exterminador do Futuro".

Mas o filme divide opiniões. O filósofo Nick Bostrom, cujo livro Superinteligência, de 2014, popularizou o risco existencial da "IA desalinhada" (inteligência artificial que não está alinhada com os valores e bem-estar humanos), admitiu quemaquininha caca niquelesposa o "provocamaquininha caca niquelrelação ao Exterminador do Futuro, e o exércitomaquininha caca niquelrobôs".

Em seu livro The Road to Conscious Machines ("O Caminho para Máquinas Conscientes",maquininha caca niqueltradução livre), o pesquisadormaquininha caca niquelIA Michael Woolridge dedica um capítulo inteiro a reclamar sobre "a narrativa do Exterminador do Futuro relacionada à IA".

Há filmes influentes mais recentes, e mais plausíveis, sobre inteligência artificial, incluindo Ex Machina e Ela, mas quando se trata dos perigos da tecnologia, O Exterminador do Futuro reina supremo 40 anos após seu lançamento.

"É quase,maquininha caca niqueluma forma engraçada, mais pertinente agora do que quando foi lançado", disse Cameron ao site The Ringer sobre o filme emaquininha caca niquelsequênciamaquininha caca niquel1991, "porque a IA agora é uma coisa real com a qual temos que lidar — e, na época, era uma fantasia."

'Antiarmas and antimáquina'

Essa é uma grande conquista para um filme que, na verdade, não está particularmente interessado na inteligência artificial.

Antesmaquininha caca niquelmais nada, é um thriller simples e sinistro sobre um "homem" imparável que persegue uma mulher assustada, mas habilidosa. O T-800 é um assassino implacável, nos moldes do personagem Michael Myers,maquininha caca niquelHalloween. Cameron o chamoumaquininha caca niquel"filmemaquininha caca niquelficção científicamaquininha caca niquelterror".

Em segundo lugar, é um filmemaquininha caca niquelviagem no tempo sobre o tema "destino x livre arbítrio", como disse Cameron.

A premissa rapidamente resumida é que,maquininha caca niquelalgum momento entre 1984 e 2029, os EUA confiaram todo o seu sistemamaquininha caca niqueldefesa à Skynet. Um dia, a Skynet ganhou superinteligência — uma mente própria —, e deu início a uma guerra nuclear global.

Os sobreviventes da humanidade travaram então uma rebeliãomaquininha caca niqueldécadas contra o exércitomaquininha caca niquelciborgues da Skynet.

Em 2029, a resistência humana está à beira da vitória graças à liderançamaquininha caca niquelJohn Connor, e a Skynet envia um T-800 (Arnold Schwarzenegger) para o anomaquininha caca niquel1984, com a missãomaquininha caca niquelmatar a futura mãemaquininha caca niquelJohn, Sarah (Linda Hamilton), antes que ela engravide.

A resistência responde com o enviomaquininha caca niquelKyle Reese (Michael Biehn) para deter o T-800 — e salvar Sarah. Em um desses paradoxosmaquininha caca niquelloop temporal que os espectadores não devem prestar muita atenção, Kyle se envolve com Sarah, e acaba se tornando o paimaquininha caca niquelJohn. O futuro é salvo.

O Exterminador do Futuro é, então, um thriller, uma históriamaquininha caca niquelamor, uma reflexão sobre o livre-arbítrio com viagem no tempo e uma sátira sobre nossa dependência da tecnologia. É anticorporativo, antiguerra, antiarmas e,maquininha caca niquelgrande parte, antimáquina.

A tecnologia,maquininha caca niquelsecretárias eletrônicas a walkmans, está envolvida quando as pessoas são mortas no filme. Mas tem muito pouco a dizer sobre a inteligência artificial propriamente dita.

O Exterminador do Futuro se tornaria um filme extremamente lucrativo, arrecadando US$ 78,4 milhões diantemaquininha caca niquelum orçamentomaquininha caca niquelUS$ 6,4 milhões, mas Cameron não tinha expectativamaquininha caca niquelcriar uma referência cultural.

Ele escreveu o roteiromaquininha caca niquelum hotel decadentemaquininha caca niquelRoma,maquininha caca niquel1982, após ser demitido do seu primeiro trabalho como diretor,maquininha caca niquelPiranha 2: Assassinas Voadoras; emaquininha caca niquelprodutora, Gale Ann Hurd, só conseguiu arrecadar um orçamentomaquininha caca niquelUS$ 6,4 milhões.

O ator principal, um ex-fisiculturistamaquininha caca niqueltalento duvidoso, não tinha grandes expectativas. Schwarzenegger contou a um amigo sobre "um filmemaquininha caca niquelm... que estava fazendo, vai levar algumas semanas".

O próprio Cameron esperava que O Exterminador do Futuro fosse "massacrado" nas bilheterias pelos dois épicosmaquininha caca niquelficção científica daquele outono: Duna,maquininha caca niquelDavid Lynch, e 2010 - O Anomaquininha caca niquelQue Faremos Contato,maquininha caca niquelPeter Hyams, uma sequência logo esquecidamaquininha caca niquel2001 - Uma Odisseia no Espaço.

Há uma sincronicidade interessante aqui: não só O Exterminador do Futuro superou o desempenhomaquininha caca niquel2010 - O Anomaquininha caca niquelQue Faremos Contato, como a Skynet suplantou o computador assassino HAL 9000 de 2001 - Uma Odisseia no Espaço, como a imagem dominante da inteligência artificial ​​que se rebela.

Muito antes do campo da IA existir, seus perigos potenciais se manifestaram na forma do robô criado por Karel Čapek emmaquininha caca niquelpeça RUR,maquininha caca niquel1921, e foram popularizados pelo filme Metrópolis,maquininha caca niquelFritz Lang,maquininha caca niquel1927.

Em seu excelente livro sobre O Exterminador do Futuro, da sériemaquininha caca niquelClássicos Modernos do Institutomaquininha caca niquelCinema Britânico (BFI, na siglamaquininha caca niquelinglês), Sean French sugere que a cena mais memorável do filme — o T-800 saindo das chamas, com seu esqueleto metálico exposto, após seu revestimentomaquininha caca niquelcarne ter derretido — foi uma referência ao robô queimadomaquininha caca niquelMetrópolis.

Na décadamaquininha caca niquel1920, era óbvio que a inteligência artificial andaria e falaria, como o monstromaquininha caca niquelFrankenstein. A popularidade dos robôs letais levou o escritormaquininha caca niquelficção científica Isaac Asimov a elaborar,maquininha caca niquel1942, as "três leis da robótica": a primeira tentativamaquininha caca niqueldefinir a inteligência artificial ética.

No mundo real, o campo da inteligência artificial começou oficialmentemaquininha caca niquel1956, durante um cursomaquininha caca niquelverão na Universidademaquininha caca niquelDartmouth, organizado pelos cientistas da computação John McCarthy (que cunhou o termo) e Marvin Minsky.

A ambição deles era desenvolver máquinas que pudessem pensar como seres humanos, mas isso se mostrou muito mais difícil do que eles imaginavam.

A história da inteligência artificial ​​é marcada por altos e baixos, as chamadas "primaveras" e "invernos" da IA. As promessas alucinantes atraem atenção, financiamento e talentos; masmaquininha caca niquelfalhamaquininha caca niquelse concretizar faz com que todos esses três elementos entremmaquininha caca niquelcolapso.

O boom da décadamaquininha caca niquel1960, antesmaquininha caca niquela dimensão dos obstáculos técnicos se tornar aparente, é conhecido como a Eramaquininha caca niquelOuro da IA. O hype extravagante sobre "cérebros eletrônicos" entusiasmou o diretor Stanley Kubrick e o escritor Arthur C. Clarke, que incorporou a IAmaquininha caca niquel2001: Uma Odisseia no Espaço, de 1968, na formamaquininha caca niquelHAL 9000.

O nome (siglamaquininha caca niquelinglês para "Computador Algorítmico Heuristicamente Programado") foi dado pelo próprio Minsky, contratado como consultor por Kubrick. Os olhos vermelhos do T-800 são, sem dúvida, uma homenagem a HAL — ter assistido a 2001: Uma Odisseia no Espaço na infância, colocou Cameron na trajetória para se tornar cineasta.

Daniel Crevier, um historiador especializadomaquininha caca niquelIA, comparou a situaçãomaquininha caca niquelHAL (computador mal programado que dá errado) com a do Colossus (computador que se torna uma nova formamaquininha caca niquelvida semelhante a um deus), do livro homônimo de DF Jones,maquininha caca niquel1966.

No romancemaquininha caca niquelJones, o governo dos EUA confiamaquininha caca niquelforma imprudente todo seu maquináriomaquininha caca niqueldefesa ao supercomputador. O Colossus adquire senciência, une forças commaquininha caca niquelcontraparte soviética e chantageia a humanidade para que se submeta a uma ditadura tecnológica: renda-se ou enfrente a aniquilação nuclear. O Colossus é um protótipo da Skynet.

O fim da história

Nem HAL nem Colossus tinham — ou precisavam —maquininha caca niquelcorpos. A brilhante inovaçãomaquininha caca niquelCameron foi combinar o computador foramaquininha caca niquelcontrole (Skynet) com o ciborgue assassino (T-800).

O T-800 é uma formamaquininha caca niquelIA com propósito único que é capazmaquininha caca niquelaprender com seu ambiente, resolver problemas, executar tarefas físicas sofisticadas e imitar vozes, mas tem dificuldade para manter uma conversa. A Skynet, ao que parece, pode fazer tudo, menos se mover.

A Skynet foi um produto da segunda primavera da IA. Enquanto Cameron escrevia o roteiro, o cientista da computação britânico-canadense Geoffrey Hinton estava repensando e revitalizando a pesquisa sobre a abordagemmaquininha caca niquelrede neural para IA: modelar a inteligência da máquina com base nos neurônios do cérebro humano. A Skynet é uma IAmaquininha caca niquelrede neural.

Hinton, que acabamaquininha caca niquelganhar o Prêmio Nobelmaquininha caca niquelFísica, recentemente se tornou um pessimistamaquininha caca niquelrelação à IA ("Minha intuição é: estamos fritos. Este é o verdadeiro fim da história"), mas,maquininha caca niquelacordo com um perfil preparado pela revista New Yorker, ele gostoumaquininha caca niquelO Exterminador do Futuromaquininha caca niquel1984: "Não o incomodava que a Skynet... fosse uma rede neural; ele ficou satisfeitomaquininha caca niquelver a tecnologia retratada como promissora".

O nome Skynet também pode ter sido uma alusão ao programa Guerra nas Estrelas, o sonho fracassado do presidente americano Ronald Reaganmaquininha caca niquelcriar um escudo antinuclear ao redor dos EUA com lasers baseados no espaço. Felizmente para o futuro da franquia, também ecoou inadvertidamente a internet — palavra que existiamaquininha caca niquel1984, mas só começou a ser amplamente usada a partir da décadamaquininha caca niquel1990.

Os nomes amalgamadosmaquininha caca niquelnovas startups ambiciosas, como IntelliCorp, Syntelligence e TeKnowledge, possivelmente inspiraram Cameron a transformar o nome original da criadora da Skynet, Cyber Dynamics Corporation,maquininha caca niquelCyberdyne Systems.

Ao assistir novamente ao filme O Exterminador do Futuro, é surpreendente descobrir que a palavra Skynet é pronunciada apenas duas vezes.

De acordo com o personagem Kyle Reese, ela era: "Nova. Poderosa. Conectada a tudo, confiável para executar tudo. Dizem que ficou inteligente... uma nova ordemmaquininha caca niquelinteligência. Então, viu todas as pessoas como uma ameaça, não apenas as do outro lado. Decidiu nosso destinomaquininha caca niquelum microssegundo... extermínio".

O interesse do filmemaquininha caca niquelrelação à IA para por aí. Como Cameron sempre disse, os filmesmaquininha caca niquelO Exterminador do Futuro são, na verdade, sobre pessoas, e não sobre máquinas.

A sequênciamaquininha caca niquelsucesso O Exterminador do Futuro 2 - O Julgamento Final,maquininha caca niquel1991, preencheu um pouco a história. Ela surgemaquininha caca niqueloutro paradoxo temporal: a unidade centralmaquininha caca niquelprocessamento e o braço direito do Exterminador original sobreviveram àmaquininha caca niqueldestruição, e permitiram que o cientista Miles Bennett Dyson (Joe Morton), da Cyberdyne, desenvolvesse a Skynet.

A missão dos heróis agora não é apenas salvar John Connor,maquininha caca niquel10 anos, do ciborgue T-1000 que viaja no tempo, mas destruir a Skynetmaquininha caca niquelseu berço digital.

Em O Exterminador do Futuro 2, um ciborgue T-800 na formamaquininha caca niquelSchwarzenegger é o protetor,maquininha caca niquelvezmaquininha caca niquelcaçador — e, portanto, o portador da seguinte explicação:

"O sistema entramaquininha caca niqueloperaçãomaquininha caca niquel4maquininha caca niquelagostomaquininha caca niquel1997. Decisões humanas são removidas da defesa estratégica. A Skynet começa a aprender, a uma taxa geométrica. Ela se torna autoconsciente às 2h14, horário do leste (nos EUA),maquininha caca niquel29maquininha caca niquelagosto. Em pânico, eles tentam desligá-la."

A Skynet revida lançando mísseis nucleares na Rússia, sabendo que o contra-ataque vai devastar os EUA. Três bilhõesmaquininha caca niquelpessoas morremmaquininha caca niquel24 horas: no Dia do Julgamento Final.

Este é um relato fundamentalmente diferente domaquininha caca niquelReese. No primeiro filme, a Skynet interpretamaquininha caca niquelprogramaçãomaquininha caca niquelforma exagerada, considerando toda a humanidade uma ameaça. No segundo, ela está agindo por interesse próprio. A contradição não incomoda a maioria dos espectadores, mas ilustra uma divergência crucial sobre o risco existencial da IA.

É provável que um leigo imagine a IA desalinhada como rebelde e malévola. Mas especialistas como Nick Bostrom insistem que o perigo real está na programação descuidada.

Pense na vassoura do aprendizmaquininha caca niquelfeiticeiro em Fantasia, da Disney: um dispositivo que segue obedientemente suas instruções a extremos desastrosos.

O segundo tipomaquininha caca niquelIA não é humano o suficiente, carecemaquininha caca niquelbom senso e julgamento moral. O primeiro é humano demais — egoísta, ressentido, sedentomaquininha caca niquelpoder. Ambos poderiam,maquininha caca niquelteoria, ser genocidas.

O Exterminador do Futuro, portanto, tanto ajuda quanto atrapalha nosso entendimento da inteligência artificial: o que significa para uma máquina "pensar", e como isso pode dar terrivelmente errado.

Muitos pesquisadoresmaquininha caca niquelIA se ressentem da obsessão pelo filme O Exterminador do Futuro por exagerar o risco existencial da tecnologia ​​em detrimentomaquininha caca niquelperigos mais imediatos, como desempregomaquininha caca niquelmassa, desinformação e armas autônomas.

"Primeiramente, ele faz com que a gente se preocupe com coisas com as quais provavelmente não precisamos nos preocupar", escreve Michael Woolridge.

"Mas,maquininha caca niquelsegundo lugar, desvia a atenção das questões levantadas pela IA com as quais deveríamos nos preocupar."

Cameron revelou à revista Empire que está planejando um novo filme do Exterminador do Futuro que vai descartar toda a bagagem narrativa da franquia, mas manter a ideia centralmaquininha caca niquelhumanos “impotentes” contra a IA.

Se isso acontecer, será fascinante ver o que o diretor tem a dizer sobre a inteligência artificial, agora que é algo sobre o que conversamos — e nos preocupamos — todos os dias.

Talvez a mensagem mais útilmaquininha caca niquelO Exterminador do Futuro para pesquisadoresmaquininha caca niquelIA seja amaquininha caca niquel"destino x livre arbítrio": as decisões humanas determinam os resultados. Nada é inevitável.

maquininha caca niquel Leia a maquininha caca niquel íntegra desta reportagem maquininha caca niquel (em inglês) no site maquininha caca niquel BBC Culture maquininha caca niquel .