Por que nossa civilização 'é mais frágil do que pensávamos':prognóstico jogos de amanha

Nossa conversa se concentrou especificamente nos graves riscos representados pela inteligência artificial.

Seu alerta não era sobre uma superinteligência que iria assumir o controleprognóstico jogos de amanhatudo. Sua preocupação era com outra ameaça, que ele acreditava que poderia ser uma questão existencial para a civilização, enraizada nas vulnerabilidades da natureza humana.

"Se transformarmos essa tecnologia maravilhosa que temos para o conhecimentoprognóstico jogos de amanhauma armaprognóstico jogos de amanhadesinformação, estaremosprognóstico jogos de amanhaprofundos problemas", disse ele. Por quê?

"Porque nós não saberemos o que sabemos, não saberemosprognóstico jogos de amanhaquem confiar e não saberemos se estamos bem ou mal informados. Podemos ficar paranoicos e hipercéticos, ou simplesmente apáticos e paralisados. São dois caminhos muito perigosos. E estão à nossa volta."

Filosofiaprognóstico jogos de amanhaformaprognóstico jogos de amanhaficção científica

Para compreender os argumentosprognóstico jogos de amanhaDennett sobre a IA e o que fez dele um pensador tão profundo e original, é preciso examinar um dos seus estudos acadêmicos mais incomuns.

Em 1978, ele publicou Where Am I? ("Onde estou?",prognóstico jogos de amanhatradução livre), um contoprognóstico jogos de amanhaficção científica que apresentava seu próprio cérebroprognóstico jogos de amanhauma cuba.

"Vários anos atrás", começa a história, "recebi a visitaprognóstico jogos de amanhaautoridades do Pentágono que me pediram para ser voluntárioprognóstico jogos de amanhauma missão secreta e altamente perigosa."

No conto, devido a um acidente durante um projeto secretoprognóstico jogos de amanhapesquisa, uma broca com uma ogiva atômica ficou presa a 1,6 km no subsolo, embaixo da cidadeprognóstico jogos de amanhaTulsa, no Estado americanoprognóstico jogos de amanhaOklahoma. E o Pentágono precisava dele para ajudar a recuperá-la. Ou, mais precisamente, do seu corpo.

Para evitar que o aparelho emitisse radiação prejudicial aos neurônios (lembrando que a plausibilidade não é necessariamente uma característica da ficção científica filosófica), o seu cérebro seria retirado cirurgicamente e conectado ao corpo por transceptoresprognóstico jogos de amanharádio. Ele poderia então controlá-lo remotamente, sem se expor a riscos.

A questão por trás da maravilhosa fantasiaprognóstico jogos de amanhaDennett era a seguinte: considerando que o procedimento tivesse sucesso e o seu cérebro continuasse a controlar seu corpo e receber informações pelos seus órgãos sensoriais, onde estaria Daniel Dennett?

Na história, ele imagina seu corpo andando pela sala onde seu cérebro flutua dentroprognóstico jogos de amanhauma cuba reforçada. Ele se sentaprognóstico jogos de amanhaseguida e fica olhando para o cérebro.

A cena foi recriada na televisãoprognóstico jogos de amanha1988,prognóstico jogos de amanhaum documentário do diretor holandês Piet Hoenderdos. Nele, Dennett interpretou a si próprio – com gosto, diga-se.

Certamente, este é um dos poucos estudos acadêmicos que mereceram este tipoprognóstico jogos de amanhaadaptação.

"Bem, aqui estou, sentadoprognóstico jogos de amanhauma cadeira dobrável, admirando meu próprio cérebro atravésprognóstico jogos de amanhaum pedaçoprognóstico jogos de amanhavidro", disse Dennett, estupefato. "Mas espere... eu não deveria estar pensando 'aqui estou eu, suspensoprognóstico jogos de amanhaum fluido borbulhante, sendo observado pelos meus próprios olhos'?"

Este último pensamento é ainda mais difícilprognóstico jogos de amanhase defender do que o primeiro. A ideia decorrente é que é impossível saber com certeza onde "eu" estou – ou mesmo o que significa a palavra "aqui" – puramente com base na experiência pessoal.

"Como eu sabia o que queria dizer por 'aqui' quando pensei 'aqui'?", prossegue ele. "Eu poderia achar que me referia a um lugar, mas, na realidade, era outro?"

Não importa o que ele possa acreditar sobreprognóstico jogos de amanhaprópria localização ou estado mental. Essas convicções não oferecem nenhuma garantia específicaprognóstico jogos de amanhaque sejam precisas.

A visão externa dos eventos, não a interna, é a que interessa – a situação real, não como eles se parecem para a pessoa sentada na cadeira (ou flutuando na cuba, conforme o caso).

Contrariando séculosprognóstico jogos de amanhatradições filosóficas, Dennett propôs que não temos conhecimento específico sobre o funcionamento da nossa própria mente. A sensaçãoprognóstico jogos de amanhaque o nosso "eu" é uma entidade coerente e unificada é apenas uma ilusão, maravilhosamente evoluída.

Como ele escreve em I've Been Thinking, "existe pouca coisa que posso saber ao certo pela introspecção isolada na minha própria mente". Mas existe muito a ser aprendido "estudando cientificamente a mente dos demais" – desde que esse estudo pressuponha um rigoroso ceticismo, até sobre a mais plausível das intuições.

A verdade não irá libertar você das restrições cognitivas, já que isso é impossível. Mas, se você for cuidadoso, ela pode ensinar a você sobre os tiposprognóstico jogos de amanhaliberdade que vale a pena desejar.

Isso nos trazprognóstico jogos de amanhavolta a uma tecnologia estranhamente capazprognóstico jogos de amanhainverter o cenário centralprognóstico jogos de amanhaWhere Am I?: a IA generativa.

Sua capacidadeprognóstico jogos de amanhainvocar simulacros humanos convincentes a partirprognóstico jogos de amanhatrilhõesprognóstico jogos de amanhabytesprognóstico jogos de amanhadados possibilita revirar séculosprognóstico jogos de amanhahipóteses sobre a verdade, a identidade e nossas experiências compartilhadasprognóstico jogos de amanharealidade.

Em apenas 30 segundosprognóstico jogos de amanhavídeo com qualidade moderada, por exemplo, serviçosprognóstico jogos de amanhaIA disponíveis gratuitamente já podem criar uma versão artificialprognóstico jogos de amanhaqualquer pessoa – ou alguém totalmente fictício – e fazer com que eles digam absolutamente qualquer coisa.

Líderes como o primeiro-ministro indiano Narendra Modi já usaram ferramentasprognóstico jogos de amanhaIA para criar versõesprognóstico jogos de amanhasi próprios falando fluentementeprognóstico jogos de amanhadialetos regionais, para angariar votos. Técnicas similares estão sendo desenvolvidas também na Indonésia e no Paquistão.

Em julhoprognóstico jogos de amanha2023, vídeos deepfakeprognóstico jogos de amanhamulheres líderes da oposiçãoprognóstico jogos de amanhaBangladesh, supostamente mostradasprognóstico jogos de amanhapiscinas usando biquínis, foram rapidamente desmascarados, mas chegaram a receber muitos compartilhamentos.

E muito mais está por vir. O anoprognóstico jogos de amanha2024 é o maior ano eleitoral da história (metade da população mundial irá exercer seu direitoprognóstico jogos de amanhavoto). E nunca foi tão fácil manipular as informações para influenciar as decisões das pessoas – ou subverter nossas intuições e inclinações diárias.

De fato, temos todas as razões para imaginar que, com dados suficientes, logo poderá ser possível criar uma cópia convincenteprognóstico jogos de amanhauma pessoa – uma entidade que poderá passar por um político (ou por você, ou por mim)prognóstico jogos de amanhaforma aceitável, não sóprognóstico jogos de amanhauma apresentação pré-gravada, mas também nas conversas do dia a dia.

O conto e a realidade atual

Profeticamente, Dennett imaginou este cenário décadas atrás.

No contoprognóstico jogos de amanhaficção científica e no documentárioprognóstico jogos de amanhaHoenderdos, os cientistas criam um novo Dennett: ao lado do cérebro original na cuba,prognóstico jogos de amanhamente é duplicada como um "gêmeo digital" e eles competem para manter o controle do seu corpo.

Neste cenário, a questão se uma pessoa realmente estáprognóstico jogos de amanhaalgum lugar – ou se falou, ou fez alguma coisa, ou mesmo se ela existe – fica ainda mais inquietante.

Para observar o quanto a realidade já está próxima da ficção, vamos considerar o caso do botprognóstico jogos de amanhaLuciano Floridi, uma imitação criada por IAprognóstico jogos de amanhaoutro importante filósofo da tecnologia.

Ele foi "projetado para responder perguntas e escrever textos imitando a formaprognóstico jogos de amanhapensar e o estiloprognóstico jogos de amanhaescreverprognóstico jogos de amanhaFloridi".

O bot é uma ferramenta pedagógica fascinante e um estudoprognóstico jogos de amanhacaso sobre como, na era da IA, nossas ideias e identidades podem começar a ter vida própria.

Para Dennett, havia algoprognóstico jogos de amanhaproblemático com a nossa obsessão pela IA com aparência humana.

Para ele, embora os fac-símiles completos da mente humana possam não ser algo iminente, a forma como estamos usando IA para imitar seres humanos já nos colocaprognóstico jogos de amanhauma trajetória perigosa.

Ele chamava essas IAsprognóstico jogos de amanha"pessoas falsificadas" – e me disse que desenvolver essas entidadesprognóstico jogos de amanhamassa constitui "malícia da pior espécie": uma formaprognóstico jogos de amanha"vandalismo social" que deveria ser proibida por lei. Por quê?

Porque, se representações digitais convincentesprognóstico jogos de amanhaseres humanos puderem ser criadas ao bel-prazer, todo o trabalhoprognóstico jogos de amanhadeterminar coletivamente as afirmações, experiências e açõesprognóstico jogos de amanhaoutras pessoas estaráprognóstico jogos de amanharisco, sem mencionar a infraestrutura social essencialprognóstico jogos de amanhacontratos, obrigações e consequências.

Daí a necessidade da proibição legal, o que ele detalhouprognóstico jogos de amanhaum artigo publicadoprognóstico jogos de amanhamaioprognóstico jogos de amanha2023 na revista The Atlantic.

"Não será algo perfeito", ele disse, "mas irá ajudar se pudermos criminalizar a produçãoprognóstico jogos de amanhapessoas falsificadas."

"Podemos ter sérias penalidades por falsificar pessoas, da mesma forma que temos para falsificar dinheiro... podemos transformarprognóstico jogos de amanhauma marcaprognóstico jogos de amanhavergonha, nãoprognóstico jogos de amanhaorgulho, quando você tornar aprognóstico jogos de amanhaIA mais humana."

Existe aqui uma ironia no fatoprognóstico jogos de amanhaque Dennett passou décadas argumentando contra aqueles que tentavam criar alguma categoria elusivaprognóstico jogos de amanha"humanidade" que apenas as nossas mentes poderiam ter.

Materialista convicto, ele defendeu repetidamente ideias como a do seu estudo da teoria da evoluçãoprognóstico jogos de amanha1995, Darwin's Dangerous Idea ("A ideia perigosaprognóstico jogos de amanhaDarwin",prognóstico jogos de amanhatradução livre): "Todas as conquistas da cultura humana – linguagem, arte, religião, ética e a própria ciência – são artefatos... do mesmo processo fundamental que desenvolveu as bactérias, os mamíferos e o Homo sapiens. Não existe Criação Especial da linguagem, nem a arte e a religião têm inspiração literalmente divina."

Ele defendia que o surgimento da humanidade a partirprognóstico jogos de amanhamatéria que não pensa é algo maravilhoso, mas não milagroso.

Até as mentes notáveis como as nossas, por fim, são o produtoprognóstico jogos de amanhaum conjuntoprognóstico jogos de amanhamódulos incompreensíveis, compostosprognóstico jogos de amanhacomponentes mais brutos, conectadosprognóstico jogos de amanhasequências contínuas às primeiras formasprognóstico jogos de amanhavida.

Consequentemente,prognóstico jogos de amanhaprincípio, não existe nada que evite que os algoritmos da inteligência artificial atinjam ou excedam suas próprias capacidades; ou que os seres humanos ampliem e remodelem suas mentes com meios artificiais.

De fato, alguns dos primeiros e mais importantes trabalhosprognóstico jogos de amanhaDennett pretendiam defender a potência e o potencial da computação contra aqueles que argumentavam que o simples cálculo nunca geraria fenômenos como a consciência, como o filósofo americano John Searle.

Para Dennett, não havia nadaprognóstico jogos de amanha"simples"prognóstico jogos de amanharelação ao cálculo ou aos processos algorítmicos. Sempre foi apenas questãoprognóstico jogos de amanhaescala e complexidade.

Neste sentido, as conquistas da IA moderna – das suas proezas linguísticas e domínioprognóstico jogos de amanhajogos como xadrez e Go até aprognóstico jogos de amanhacapacidadeprognóstico jogos de amanhaaprovaçãoprognóstico jogos de amanhaexames legais e médicos – justificam continuamente a insistênciaprognóstico jogos de amanhaDennettprognóstico jogos de amanhaque pode surgir competênciaprognóstico jogos de amanhanível humano a partirprognóstico jogos de amanhaprocessos totalmente incompreensíveis (sem mencionar que, no nosso caso, isso já aconteceu).

Durante a nossa conversa, ele também se empenhouprognóstico jogos de amanhadestacar o abismo existente entre a arquitetura computacional atual e as complexidades analógicas humanas.

A obsessão para saber se a IA irá atingir a "inteligência geral", com toda a flexibilidade cognitiva dos seres humanos, é perigosa, que dirá se ela irá chegar a algo ainda maior.

Ele observava que, muito antes que acontecesse algo desta magnitude, nós precisaríamos enfrentar o surgimentoprognóstico jogos de amanhaagentes autônomos "extremamente manipuladores", que irão representar uma ameaça muito maior do que as hipotéticas superinteligências ("esqueça isso!"). Por quê?

Porque, da mesma forma que as redes sociais provaram ser um ambiente propício para a evoluçãoprognóstico jogos de amanhaconteúdo capazprognóstico jogos de amanhaexplorar as vulnerabilidades humanas, a mesma dinâmica favorece tanto o conteúdo gerado por IA, quanto as IAs capazesprognóstico jogos de amanhadesenvolver uma atraente combinaçãoprognóstico jogos de amanhapersuasão, sedução, choque e bajulação.

Dos glamourosos e perfeitos influenciadores artificiais até a pornografia deepfake, das companhias infinitamente empáticas até as fraudes amorosas, as paixões e os desejos humanos são um campo fértil para refinar a manipulação.

Podemos (ainda) não ser cérebrosprognóstico jogos de amanhacubas. Mas aquilo que nós vemos, acreditamos, fazemos parte e realizamos é cada vez mais interligado a incontáveis sistemasprognóstico jogos de amanhainformação – muitos deles, mais propensos a oferecer persuasão e plausibilidade do que a verdade.

Nada disso deve negar o poder e o potencialprognóstico jogos de amanhatecnologias como a IA, nem as inúmeras formasprognóstico jogos de amanhaque ela pode ampliar as capacidades e o autoconhecimento da humanidade. Mas é fácil defender, como Dennett fazia, que as IAs provavelmente irão "evoluir até se reproduzirem".

"E as que se reproduzirem melhor serão os mais inteligentes manipuladores dos interlocutores humanos como nós. As entediantes, iremos deixarprognóstico jogos de amanhalado, e as que mantiverem nossa atenção, iremos difundir. Tudo isso irá acontecer sem nenhuma intenção. Será a seleção natural do software."

Verdade vs. mentira

Não é necessário um planoprognóstico jogos de amanhamestre elaborado por uma máquina ou por seres humanos para que se desenvolvam cenários maléficos.

No livro Das Bactérias a Bach e Vice-Versa: A Evolução das Mentes (Edições 70, 2021), Dennett defende que "quando a infraestrutura cultural estiver projetada e instalada [ou seja, evoluída nas mentes humanas]... a possibilidadeprognóstico jogos de amanhamemes parasíticos explorando essa infraestrutura é mais ou menos garantida."

Em termos evolutivos, nossas mentes não são aparelhos sintonizados para diferenciar a verdade da mentira. Nós somos criaturas parciais, apaixonadas e tribais – animais sociais ligados por laçosprognóstico jogos de amanhaamor e lealdade que definem nossa humanidade e nos tornam dolorosamente vulneráveis.

O que podemos fazer a respeito?

Felizmente, outra característica que define o pensamento humano é a nossa capacidadeprognóstico jogos de amanharefletir precisamente sobre essas limitações, para corrigir,prognóstico jogos de amanhaforma crescente e coletiva, os pontos cegos da percepção social.

"O que você quer", declarou Dennett, "é que o seu pensamento seja determinado pela verdade sobre tudo o que existe."

"Você quer ser levado pelas boas evidências existentes sobre o que é o mundo. Mas você também quer ter espaçoprognóstico jogos de amanhamanobra para reconsiderar, reconsiderar e reconsiderar ainda mais: suas perspectivas, seus projetos, seus objetivos. Você quer ser um sistemaprognóstico jogos de amanhaintençõesprognóstico jogos de amanhaordem superior, que reflita sobre os meios, fins e propósitos."

Este é o método científico no microcosmo, com um toqueprognóstico jogos de amanhalivre pensamento humanista.

A "liberdade"prognóstico jogos de amanhaagir com baseprognóstico jogos de amanhainformações manipuladamente imprecisas não é liberdade. Já as ações determinadas pelas "boas evidências existentes" são emancipadoras: elas são abertas às complexidades da realidade e não traídas por mentiras.

Para ampliar o experimentoprognóstico jogos de amanhaWhere Am I?, imagine o que aconteceria se o seu cérebro fosse colocadoprognóstico jogos de amanhauma cuba e, sem o seu conhecimento ou permissão, fosse conectado a uma versão simulada da realidade.

Naquele campo virtual, você ainda poderá ter certas liberdades. Mas, no contexto do mundo externo, você seria encurralado e ludibriado – excluídoprognóstico jogos de amanhaqualquer forma significativaprognóstico jogos de amanhacompreensão e ação.

Pode parecer puramente uma questãoprognóstico jogos de amanhaficção especulativa, mas uma versão desse cenário se desenrola sempre que alguém acredita que uma afirmação falsa é a verdade literal – ou que uma entidade artificial é um ser humano.

Das teorias da conspiração até a propaganda totalitária, das evidências fabricadas até falsos seres humanos, a rejeição da realidade é um negócio florescente. E não há nadaprognóstico jogos de amanhainevitável sobre a persistência da tolerância, do ceticismo ou do debate racionalprognóstico jogos de amanhaum mundo inundado por este tipoprognóstico jogos de amanhasituação.

Para Dennett, a nossa civilização "é mais frágil do que pensávamos" – e, justamente por isso, mais preciosa.

Apesarprognóstico jogos de amanhatodos os conflitos, injustiças e rancores, vivemosprognóstico jogos de amanhauma eraprognóstico jogos de amanhaque grande parte dos seres humanos podem "confiar uns nos outros, ter projetosprognóstico jogos de amanhalongo prazo, viajar livremente, formar família e viver com muito pouco medo".

"Isso é simplesmente maravilhoso. E devemos preservar isso. Essa estrutura,prognóstico jogos de amanhaverdade, a todo custo."

Este é o grande risco dos grandes modelosprognóstico jogos de amanhalinguagemprognóstico jogos de amanhaIA e das pessoas falsificadas: "que eles destruam a confiança que levamos milharesprognóstico jogos de amanhaanos para construir."

Apesarprognóstico jogos de amanhatudo isso – e daprognóstico jogos de amanhareputaçãoprognóstico jogos de amanhainflexível razoabilidade – Dennett deixou claro que não tinha interesseprognóstico jogos de amanhatranscender as limitações da natureza humana.

Para ele, o amor e a lealdade não eram uma bagagem biológica que seria melhor superarmos. Pelo contrário, eles são forças motivadoras do tipo mais profundo: fontesprognóstico jogos de amanhapropósito eprognóstico jogos de amanhabondade, desde que possam ser libertadas do ódio e do egoísmo.

"Buscar o essencial é uma orientação perfeita. Mas o essencial pode ser compreendidoprognóstico jogos de amanhaforma muito ampla. O essencial pode incluir seus filhos, uma ideia, tocar violão, os Chicago Bears [timeprognóstico jogos de amanhafutebol americano]."

"O essencial pode ser qualquer coisa que você queira que seja. É aquilo que é mais importante para você. É o que você procura para ter proteção. E isso é óbvio. Se alguém quiser extorquir você, eles não precisam ameaçar você. Eles precisam apenas ameaçar aquilo que você ama."

A biologia é onde tudo começa e termina: o surpreendente padrãoprognóstico jogos de amanhaevolução do nosso surgimento ao ladoprognóstico jogos de amanhatodas as outras formasprognóstico jogos de amanhavida; as infinitas complexidades que somos capazesprognóstico jogos de amanhaconceber pela cultura, linguagem e computação; e nossa existência comum como criaturasprognóstico jogos de amanhacarne e osso.

"Meus dois filhos são adotados", contou Dennett ao final da nossa conversa. "Mas eu os amo com a mesma intensidadeprognóstico jogos de amanhaqualquer pai biológico."

"Eu me lembroprognóstico jogos de amanhaum momento na infância da nossa mais velha, quando ela era uma garotinha, talvez com dois anosprognóstico jogos de amanhaidade ou menos,prognóstico jogos de amanhaque percebi uma possível ameaça no parquinho ou algo assim e aquilo subitamente me impressionou. 'Oh, vejam só, acho que eu mataria para proteger esta criança.'"

"E aquilo quase me assustou. Mas também me emocionou, porque era o reconhecimentoprognóstico jogos de amanhauma intensa e profunda ligação emocional. E este é o sentido da vida."

* Tom Chatfield é escritor e filósofoprognóstico jogos de amanhatecnologia britânico. Seu livro mais recente, Wise Animals ("Animais inteligentes",prognóstico jogos de amanhatradução livre), explora a evolução conjunta da humanidade e da tecnologia.

Leia a versão original desta reportagem (em inglês) no site BBC Innovation.