Por que nossa civilização 'é mais frágil do que pensávamos':jogo do foguete na pixbet

Nossa conversa se concentrou especificamente nos graves riscos representados pela inteligência artificial.

Seu alerta não era sobre uma superinteligência que iria assumir o controlejogo do foguete na pixbettudo. Sua preocupação era com outra ameaça, que ele acreditava que poderia ser uma questão existencial para a civilização, enraizada nas vulnerabilidades da natureza humana.

"Se transformarmos essa tecnologia maravilhosa que temos para o conhecimentojogo do foguete na pixbetuma armajogo do foguete na pixbetdesinformação, estaremosjogo do foguete na pixbetprofundos problemas", disse ele. Por quê?

"Porque nós não saberemos o que sabemos, não saberemosjogo do foguete na pixbetquem confiar e não saberemos se estamos bem ou mal informados. Podemos ficar paranoicos e hipercéticos, ou simplesmente apáticos e paralisados. São dois caminhos muito perigosos. E estão à nossa volta."

Filosofiajogo do foguete na pixbetformajogo do foguete na pixbetficção científica

Para compreender os argumentosjogo do foguete na pixbetDennett sobre a IA e o que fez dele um pensador tão profundo e original, é preciso examinar um dos seus estudos acadêmicos mais incomuns.

Em 1978, ele publicou Where Am I? ("Onde estou?",jogo do foguete na pixbettradução livre), um contojogo do foguete na pixbetficção científica que apresentava seu próprio cérebrojogo do foguete na pixbetuma cuba.

"Vários anos atrás", começa a história, "recebi a visitajogo do foguete na pixbetautoridades do Pentágono que me pediram para ser voluntáriojogo do foguete na pixbetuma missão secreta e altamente perigosa."

No conto, devido a um acidente durante um projeto secretojogo do foguete na pixbetpesquisa, uma broca com uma ogiva atômica ficou presa a 1,6 km no subsolo, embaixo da cidadejogo do foguete na pixbetTulsa, no Estado americanojogo do foguete na pixbetOklahoma. E o Pentágono precisava dele para ajudar a recuperá-la. Ou, mais precisamente, do seu corpo.

Para evitar que o aparelho emitisse radiação prejudicial aos neurônios (lembrando que a plausibilidade não é necessariamente uma característica da ficção científica filosófica), o seu cérebro seria retirado cirurgicamente e conectado ao corpo por transceptoresjogo do foguete na pixbetrádio. Ele poderia então controlá-lo remotamente, sem se expor a riscos.

A questão por trás da maravilhosa fantasiajogo do foguete na pixbetDennett era a seguinte: considerando que o procedimento tivesse sucesso e o seu cérebro continuasse a controlar seu corpo e receber informações pelos seus órgãos sensoriais, onde estaria Daniel Dennett?

Na história, ele imagina seu corpo andando pela sala onde seu cérebro flutua dentrojogo do foguete na pixbetuma cuba reforçada. Ele se sentajogo do foguete na pixbetseguida e fica olhando para o cérebro.

A cena foi recriada na televisãojogo do foguete na pixbet1988,jogo do foguete na pixbetum documentário do diretor holandês Piet Hoenderdos. Nele, Dennett interpretou a si próprio – com gosto, diga-se.

Certamente, este é um dos poucos estudos acadêmicos que mereceram este tipojogo do foguete na pixbetadaptação.

"Bem, aqui estou, sentadojogo do foguete na pixbetuma cadeira dobrável, admirando meu próprio cérebro atravésjogo do foguete na pixbetum pedaçojogo do foguete na pixbetvidro", disse Dennett, estupefato. "Mas espere... eu não deveria estar pensando 'aqui estou eu, suspensojogo do foguete na pixbetum fluido borbulhante, sendo observado pelos meus próprios olhos'?"

Este último pensamento é ainda mais difíciljogo do foguete na pixbetse defender do que o primeiro. A ideia decorrente é que é impossível saber com certeza onde "eu" estou – ou mesmo o que significa a palavra "aqui" – puramente com base na experiência pessoal.

"Como eu sabia o que queria dizer por 'aqui' quando pensei 'aqui'?", prossegue ele. "Eu poderia achar que me referia a um lugar, mas, na realidade, era outro?"

Não importa o que ele possa acreditar sobrejogo do foguete na pixbetprópria localização ou estado mental. Essas convicções não oferecem nenhuma garantia específicajogo do foguete na pixbetque sejam precisas.

A visão externa dos eventos, não a interna, é a que interessa – a situação real, não como eles se parecem para a pessoa sentada na cadeira (ou flutuando na cuba, conforme o caso).

Contrariando séculosjogo do foguete na pixbettradições filosóficas, Dennett propôs que não temos conhecimento específico sobre o funcionamento da nossa própria mente. A sensaçãojogo do foguete na pixbetque o nosso "eu" é uma entidade coerente e unificada é apenas uma ilusão, maravilhosamente evoluída.

Como ele escreve em I've Been Thinking, "existe pouca coisa que posso saber ao certo pela introspecção isolada na minha própria mente". Mas existe muito a ser aprendido "estudando cientificamente a mente dos demais" – desde que esse estudo pressuponha um rigoroso ceticismo, até sobre a mais plausível das intuições.

A verdade não irá libertar você das restrições cognitivas, já que isso é impossível. Mas, se você for cuidadoso, ela pode ensinar a você sobre os tiposjogo do foguete na pixbetliberdade que vale a pena desejar.

Isso nos trazjogo do foguete na pixbetvolta a uma tecnologia estranhamente capazjogo do foguete na pixbetinverter o cenário centraljogo do foguete na pixbetWhere Am I?: a IA generativa.

Sua capacidadejogo do foguete na pixbetinvocar simulacros humanos convincentes a partirjogo do foguete na pixbettrilhõesjogo do foguete na pixbetbytesjogo do foguete na pixbetdados possibilita revirar séculosjogo do foguete na pixbethipóteses sobre a verdade, a identidade e nossas experiências compartilhadasjogo do foguete na pixbetrealidade.

Em apenas 30 segundosjogo do foguete na pixbetvídeo com qualidade moderada, por exemplo, serviçosjogo do foguete na pixbetIA disponíveis gratuitamente já podem criar uma versão artificialjogo do foguete na pixbetqualquer pessoa – ou alguém totalmente fictício – e fazer com que eles digam absolutamente qualquer coisa.

Líderes como o primeiro-ministro indiano Narendra Modi já usaram ferramentasjogo do foguete na pixbetIA para criar versõesjogo do foguete na pixbetsi próprios falando fluentementejogo do foguete na pixbetdialetos regionais, para angariar votos. Técnicas similares estão sendo desenvolvidas também na Indonésia e no Paquistão.

Em julhojogo do foguete na pixbet2023, vídeos deepfakejogo do foguete na pixbetmulheres líderes da oposiçãojogo do foguete na pixbetBangladesh, supostamente mostradasjogo do foguete na pixbetpiscinas usando biquínis, foram rapidamente desmascarados, mas chegaram a receber muitos compartilhamentos.

E muito mais está por vir. O anojogo do foguete na pixbet2024 é o maior ano eleitoral da história (metade da população mundial irá exercer seu direitojogo do foguete na pixbetvoto). E nunca foi tão fácil manipular as informações para influenciar as decisões das pessoas – ou subverter nossas intuições e inclinações diárias.

De fato, temos todas as razões para imaginar que, com dados suficientes, logo poderá ser possível criar uma cópia convincentejogo do foguete na pixbetuma pessoa – uma entidade que poderá passar por um político (ou por você, ou por mim)jogo do foguete na pixbetforma aceitável, não sójogo do foguete na pixbetuma apresentação pré-gravada, mas também nas conversas do dia a dia.

O conto e a realidade atual

Profeticamente, Dennett imaginou este cenário décadas atrás.

No contojogo do foguete na pixbetficção científica e no documentáriojogo do foguete na pixbetHoenderdos, os cientistas criam um novo Dennett: ao lado do cérebro original na cuba,jogo do foguete na pixbetmente é duplicada como um "gêmeo digital" e eles competem para manter o controle do seu corpo.

Neste cenário, a questão se uma pessoa realmente estájogo do foguete na pixbetalgum lugar – ou se falou, ou fez alguma coisa, ou mesmo se ela existe – fica ainda mais inquietante.

Para observar o quanto a realidade já está próxima da ficção, vamos considerar o caso do botjogo do foguete na pixbetLuciano Floridi, uma imitação criada por IAjogo do foguete na pixbetoutro importante filósofo da tecnologia.

Ele foi "projetado para responder perguntas e escrever textos imitando a formajogo do foguete na pixbetpensar e o estilojogo do foguete na pixbetescreverjogo do foguete na pixbetFloridi".

O bot é uma ferramenta pedagógica fascinante e um estudojogo do foguete na pixbetcaso sobre como, na era da IA, nossas ideias e identidades podem começar a ter vida própria.

Para Dennett, havia algojogo do foguete na pixbetproblemático com a nossa obsessão pela IA com aparência humana.

Para ele, embora os fac-símiles completos da mente humana possam não ser algo iminente, a forma como estamos usando IA para imitar seres humanos já nos colocajogo do foguete na pixbetuma trajetória perigosa.

Ele chamava essas IAsjogo do foguete na pixbet"pessoas falsificadas" – e me disse que desenvolver essas entidadesjogo do foguete na pixbetmassa constitui "malícia da pior espécie": uma formajogo do foguete na pixbet"vandalismo social" que deveria ser proibida por lei. Por quê?

Porque, se representações digitais convincentesjogo do foguete na pixbetseres humanos puderem ser criadas ao bel-prazer, todo o trabalhojogo do foguete na pixbetdeterminar coletivamente as afirmações, experiências e açõesjogo do foguete na pixbetoutras pessoas estarájogo do foguete na pixbetrisco, sem mencionar a infraestrutura social essencialjogo do foguete na pixbetcontratos, obrigações e consequências.

Daí a necessidade da proibição legal, o que ele detalhoujogo do foguete na pixbetum artigo publicadojogo do foguete na pixbetmaiojogo do foguete na pixbet2023 na revista The Atlantic.

"Não será algo perfeito", ele disse, "mas irá ajudar se pudermos criminalizar a produçãojogo do foguete na pixbetpessoas falsificadas."

"Podemos ter sérias penalidades por falsificar pessoas, da mesma forma que temos para falsificar dinheiro... podemos transformarjogo do foguete na pixbetuma marcajogo do foguete na pixbetvergonha, nãojogo do foguete na pixbetorgulho, quando você tornar ajogo do foguete na pixbetIA mais humana."

Existe aqui uma ironia no fatojogo do foguete na pixbetque Dennett passou décadas argumentando contra aqueles que tentavam criar alguma categoria elusivajogo do foguete na pixbet"humanidade" que apenas as nossas mentes poderiam ter.

Materialista convicto, ele defendeu repetidamente ideias como a do seu estudo da teoria da evoluçãojogo do foguete na pixbet1995, Darwin's Dangerous Idea ("A ideia perigosajogo do foguete na pixbetDarwin",jogo do foguete na pixbettradução livre): "Todas as conquistas da cultura humana – linguagem, arte, religião, ética e a própria ciência – são artefatos... do mesmo processo fundamental que desenvolveu as bactérias, os mamíferos e o Homo sapiens. Não existe Criação Especial da linguagem, nem a arte e a religião têm inspiração literalmente divina."

Ele defendia que o surgimento da humanidade a partirjogo do foguete na pixbetmatéria que não pensa é algo maravilhoso, mas não milagroso.

Até as mentes notáveis como as nossas, por fim, são o produtojogo do foguete na pixbetum conjuntojogo do foguete na pixbetmódulos incompreensíveis, compostosjogo do foguete na pixbetcomponentes mais brutos, conectadosjogo do foguete na pixbetsequências contínuas às primeiras formasjogo do foguete na pixbetvida.

Consequentemente,jogo do foguete na pixbetprincípio, não existe nada que evite que os algoritmos da inteligência artificial atinjam ou excedam suas próprias capacidades; ou que os seres humanos ampliem e remodelem suas mentes com meios artificiais.

De fato, alguns dos primeiros e mais importantes trabalhosjogo do foguete na pixbetDennett pretendiam defender a potência e o potencial da computação contra aqueles que argumentavam que o simples cálculo nunca geraria fenômenos como a consciência, como o filósofo americano John Searle.

Para Dennett, não havia nadajogo do foguete na pixbet"simples"jogo do foguete na pixbetrelação ao cálculo ou aos processos algorítmicos. Sempre foi apenas questãojogo do foguete na pixbetescala e complexidade.

Neste sentido, as conquistas da IA moderna – das suas proezas linguísticas e domíniojogo do foguete na pixbetjogos como xadrez e Go até ajogo do foguete na pixbetcapacidadejogo do foguete na pixbetaprovaçãojogo do foguete na pixbetexames legais e médicos – justificam continuamente a insistênciajogo do foguete na pixbetDennettjogo do foguete na pixbetque pode surgir competênciajogo do foguete na pixbetnível humano a partirjogo do foguete na pixbetprocessos totalmente incompreensíveis (sem mencionar que, no nosso caso, isso já aconteceu).

Durante a nossa conversa, ele também se empenhoujogo do foguete na pixbetdestacar o abismo existente entre a arquitetura computacional atual e as complexidades analógicas humanas.

A obsessão para saber se a IA irá atingir a "inteligência geral", com toda a flexibilidade cognitiva dos seres humanos, é perigosa, que dirá se ela irá chegar a algo ainda maior.

Ele observava que, muito antes que acontecesse algo desta magnitude, nós precisaríamos enfrentar o surgimentojogo do foguete na pixbetagentes autônomos "extremamente manipuladores", que irão representar uma ameaça muito maior do que as hipotéticas superinteligências ("esqueça isso!"). Por quê?

Porque, da mesma forma que as redes sociais provaram ser um ambiente propício para a evoluçãojogo do foguete na pixbetconteúdo capazjogo do foguete na pixbetexplorar as vulnerabilidades humanas, a mesma dinâmica favorece tanto o conteúdo gerado por IA, quanto as IAs capazesjogo do foguete na pixbetdesenvolver uma atraente combinaçãojogo do foguete na pixbetpersuasão, sedução, choque e bajulação.

Dos glamourosos e perfeitos influenciadores artificiais até a pornografia deepfake, das companhias infinitamente empáticas até as fraudes amorosas, as paixões e os desejos humanos são um campo fértil para refinar a manipulação.

Podemos (ainda) não ser cérebrosjogo do foguete na pixbetcubas. Mas aquilo que nós vemos, acreditamos, fazemos parte e realizamos é cada vez mais interligado a incontáveis sistemasjogo do foguete na pixbetinformação – muitos deles, mais propensos a oferecer persuasão e plausibilidade do que a verdade.

Nada disso deve negar o poder e o potencialjogo do foguete na pixbettecnologias como a IA, nem as inúmeras formasjogo do foguete na pixbetque ela pode ampliar as capacidades e o autoconhecimento da humanidade. Mas é fácil defender, como Dennett fazia, que as IAs provavelmente irão "evoluir até se reproduzirem".

"E as que se reproduzirem melhor serão os mais inteligentes manipuladores dos interlocutores humanos como nós. As entediantes, iremos deixarjogo do foguete na pixbetlado, e as que mantiverem nossa atenção, iremos difundir. Tudo isso irá acontecer sem nenhuma intenção. Será a seleção natural do software."

Verdade vs. mentira

Não é necessário um planojogo do foguete na pixbetmestre elaborado por uma máquina ou por seres humanos para que se desenvolvam cenários maléficos.

No livro Das Bactérias a Bach e Vice-Versa: A Evolução das Mentes (Edições 70, 2021), Dennett defende que "quando a infraestrutura cultural estiver projetada e instalada [ou seja, evoluída nas mentes humanas]... a possibilidadejogo do foguete na pixbetmemes parasíticos explorando essa infraestrutura é mais ou menos garantida."

Em termos evolutivos, nossas mentes não são aparelhos sintonizados para diferenciar a verdade da mentira. Nós somos criaturas parciais, apaixonadas e tribais – animais sociais ligados por laçosjogo do foguete na pixbetamor e lealdade que definem nossa humanidade e nos tornam dolorosamente vulneráveis.

O que podemos fazer a respeito?

Felizmente, outra característica que define o pensamento humano é a nossa capacidadejogo do foguete na pixbetrefletir precisamente sobre essas limitações, para corrigir,jogo do foguete na pixbetforma crescente e coletiva, os pontos cegos da percepção social.

"O que você quer", declarou Dennett, "é que o seu pensamento seja determinado pela verdade sobre tudo o que existe."

"Você quer ser levado pelas boas evidências existentes sobre o que é o mundo. Mas você também quer ter espaçojogo do foguete na pixbetmanobra para reconsiderar, reconsiderar e reconsiderar ainda mais: suas perspectivas, seus projetos, seus objetivos. Você quer ser um sistemajogo do foguete na pixbetintençõesjogo do foguete na pixbetordem superior, que reflita sobre os meios, fins e propósitos."

Este é o método científico no microcosmo, com um toquejogo do foguete na pixbetlivre pensamento humanista.

A "liberdade"jogo do foguete na pixbetagir com basejogo do foguete na pixbetinformações manipuladamente imprecisas não é liberdade. Já as ações determinadas pelas "boas evidências existentes" são emancipadoras: elas são abertas às complexidades da realidade e não traídas por mentiras.

Para ampliar o experimentojogo do foguete na pixbetWhere Am I?, imagine o que aconteceria se o seu cérebro fosse colocadojogo do foguete na pixbetuma cuba e, sem o seu conhecimento ou permissão, fosse conectado a uma versão simulada da realidade.

Naquele campo virtual, você ainda poderá ter certas liberdades. Mas, no contexto do mundo externo, você seria encurralado e ludibriado – excluídojogo do foguete na pixbetqualquer forma significativajogo do foguete na pixbetcompreensão e ação.

Pode parecer puramente uma questãojogo do foguete na pixbetficção especulativa, mas uma versão desse cenário se desenrola sempre que alguém acredita que uma afirmação falsa é a verdade literal – ou que uma entidade artificial é um ser humano.

Das teorias da conspiração até a propaganda totalitária, das evidências fabricadas até falsos seres humanos, a rejeição da realidade é um negócio florescente. E não há nadajogo do foguete na pixbetinevitável sobre a persistência da tolerância, do ceticismo ou do debate racionaljogo do foguete na pixbetum mundo inundado por este tipojogo do foguete na pixbetsituação.

Para Dennett, a nossa civilização "é mais frágil do que pensávamos" – e, justamente por isso, mais preciosa.

Apesarjogo do foguete na pixbettodos os conflitos, injustiças e rancores, vivemosjogo do foguete na pixbetuma erajogo do foguete na pixbetque grande parte dos seres humanos podem "confiar uns nos outros, ter projetosjogo do foguete na pixbetlongo prazo, viajar livremente, formar família e viver com muito pouco medo".

"Isso é simplesmente maravilhoso. E devemos preservar isso. Essa estrutura,jogo do foguete na pixbetverdade, a todo custo."

Este é o grande risco dos grandes modelosjogo do foguete na pixbetlinguagemjogo do foguete na pixbetIA e das pessoas falsificadas: "que eles destruam a confiança que levamos milharesjogo do foguete na pixbetanos para construir."

Apesarjogo do foguete na pixbettudo isso – e dajogo do foguete na pixbetreputaçãojogo do foguete na pixbetinflexível razoabilidade – Dennett deixou claro que não tinha interessejogo do foguete na pixbettranscender as limitações da natureza humana.

Para ele, o amor e a lealdade não eram uma bagagem biológica que seria melhor superarmos. Pelo contrário, eles são forças motivadoras do tipo mais profundo: fontesjogo do foguete na pixbetpropósito ejogo do foguete na pixbetbondade, desde que possam ser libertadas do ódio e do egoísmo.

"Buscar o essencial é uma orientação perfeita. Mas o essencial pode ser compreendidojogo do foguete na pixbetforma muito ampla. O essencial pode incluir seus filhos, uma ideia, tocar violão, os Chicago Bears [timejogo do foguete na pixbetfutebol americano]."

"O essencial pode ser qualquer coisa que você queira que seja. É aquilo que é mais importante para você. É o que você procura para ter proteção. E isso é óbvio. Se alguém quiser extorquir você, eles não precisam ameaçar você. Eles precisam apenas ameaçar aquilo que você ama."

A biologia é onde tudo começa e termina: o surpreendente padrãojogo do foguete na pixbetevolução do nosso surgimento ao ladojogo do foguete na pixbettodas as outras formasjogo do foguete na pixbetvida; as infinitas complexidades que somos capazesjogo do foguete na pixbetconceber pela cultura, linguagem e computação; e nossa existência comum como criaturasjogo do foguete na pixbetcarne e osso.

"Meus dois filhos são adotados", contou Dennett ao final da nossa conversa. "Mas eu os amo com a mesma intensidadejogo do foguete na pixbetqualquer pai biológico."

"Eu me lembrojogo do foguete na pixbetum momento na infância da nossa mais velha, quando ela era uma garotinha, talvez com dois anosjogo do foguete na pixbetidade ou menos,jogo do foguete na pixbetque percebi uma possível ameaça no parquinho ou algo assim e aquilo subitamente me impressionou. 'Oh, vejam só, acho que eu mataria para proteger esta criança.'"

"E aquilo quase me assustou. Mas também me emocionou, porque era o reconhecimentojogo do foguete na pixbetuma intensa e profunda ligação emocional. E este é o sentido da vida."

* Tom Chatfield é escritor e filósofojogo do foguete na pixbettecnologia britânico. Seu livro mais recente, Wise Animals ("Animais inteligentes",jogo do foguete na pixbettradução livre), explora a evolução conjunta da humanidade e da tecnologia.

Leia a versão original desta reportagem (em inglês) no site BBC Innovation.