Por que nossa civilização 'é mais frágil do que pensávamos':sylvinho corinthians

Nossa conversa se concentrou especificamente nos graves riscos representados pela inteligência artificial.

Seu alerta não era sobre uma superinteligência que iria assumir o controlesylvinho corinthianstudo. Sua preocupação era com outra ameaça, que ele acreditava que poderia ser uma questão existencial para a civilização, enraizada nas vulnerabilidades da natureza humana.

"Se transformarmos essa tecnologia maravilhosa que temos para o conhecimentosylvinho corinthiansuma armasylvinho corinthiansdesinformação, estaremossylvinho corinthiansprofundos problemas", disse ele. Por quê?

"Porque nós não saberemos o que sabemos, não saberemossylvinho corinthiansquem confiar e não saberemos se estamos bem ou mal informados. Podemos ficar paranoicos e hipercéticos, ou simplesmente apáticos e paralisados. São dois caminhos muito perigosos. E estão à nossa volta."

Filosofiasylvinho corinthiansformasylvinho corinthiansficção científica

Para compreender os argumentossylvinho corinthiansDennett sobre a IA e o que fez dele um pensador tão profundo e original, é preciso examinar um dos seus estudos acadêmicos mais incomuns.

Em 1978, ele publicou Where Am I? ("Onde estou?",sylvinho corinthianstradução livre), um contosylvinho corinthiansficção científica que apresentava seu próprio cérebrosylvinho corinthiansuma cuba.

"Vários anos atrás", começa a história, "recebi a visitasylvinho corinthiansautoridades do Pentágono que me pediram para ser voluntáriosylvinho corinthiansuma missão secreta e altamente perigosa."

No conto, devido a um acidente durante um projeto secretosylvinho corinthianspesquisa, uma broca com uma ogiva atômica ficou presa a 1,6 km no subsolo, embaixo da cidadesylvinho corinthiansTulsa, no Estado americanosylvinho corinthiansOklahoma. E o Pentágono precisava dele para ajudar a recuperá-la. Ou, mais precisamente, do seu corpo.

Para evitar que o aparelho emitisse radiação prejudicial aos neurônios (lembrando que a plausibilidade não é necessariamente uma característica da ficção científica filosófica), o seu cérebro seria retirado cirurgicamente e conectado ao corpo por transceptoressylvinho corinthiansrádio. Ele poderia então controlá-lo remotamente, sem se expor a riscos.

A questão por trás da maravilhosa fantasiasylvinho corinthiansDennett era a seguinte: considerando que o procedimento tivesse sucesso e o seu cérebro continuasse a controlar seu corpo e receber informações pelos seus órgãos sensoriais, onde estaria Daniel Dennett?

Na história, ele imagina seu corpo andando pela sala onde seu cérebro flutua dentrosylvinho corinthiansuma cuba reforçada. Ele se sentasylvinho corinthiansseguida e fica olhando para o cérebro.

A cena foi recriada na televisãosylvinho corinthians1988,sylvinho corinthiansum documentário do diretor holandês Piet Hoenderdos. Nele, Dennett interpretou a si próprio – com gosto, diga-se.

Certamente, este é um dos poucos estudos acadêmicos que mereceram este tiposylvinho corinthiansadaptação.

"Bem, aqui estou, sentadosylvinho corinthiansuma cadeira dobrável, admirando meu próprio cérebro atravéssylvinho corinthiansum pedaçosylvinho corinthiansvidro", disse Dennett, estupefato. "Mas espere... eu não deveria estar pensando 'aqui estou eu, suspensosylvinho corinthiansum fluido borbulhante, sendo observado pelos meus próprios olhos'?"

Este último pensamento é ainda mais difícilsylvinho corinthiansse defender do que o primeiro. A ideia decorrente é que é impossível saber com certeza onde "eu" estou – ou mesmo o que significa a palavra "aqui" – puramente com base na experiência pessoal.

"Como eu sabia o que queria dizer por 'aqui' quando pensei 'aqui'?", prossegue ele. "Eu poderia achar que me referia a um lugar, mas, na realidade, era outro?"

Não importa o que ele possa acreditar sobresylvinho corinthiansprópria localização ou estado mental. Essas convicções não oferecem nenhuma garantia específicasylvinho corinthiansque sejam precisas.

A visão externa dos eventos, não a interna, é a que interessa – a situação real, não como eles se parecem para a pessoa sentada na cadeira (ou flutuando na cuba, conforme o caso).

Contrariando séculossylvinho corinthianstradições filosóficas, Dennett propôs que não temos conhecimento específico sobre o funcionamento da nossa própria mente. A sensaçãosylvinho corinthiansque o nosso "eu" é uma entidade coerente e unificada é apenas uma ilusão, maravilhosamente evoluída.

Como ele escreve em I've Been Thinking, "existe pouca coisa que posso saber ao certo pela introspecção isolada na minha própria mente". Mas existe muito a ser aprendido "estudando cientificamente a mente dos demais" – desde que esse estudo pressuponha um rigoroso ceticismo, até sobre a mais plausível das intuições.

A verdade não irá libertar você das restrições cognitivas, já que isso é impossível. Mas, se você for cuidadoso, ela pode ensinar a você sobre os tipossylvinho corinthiansliberdade que vale a pena desejar.

Isso nos trazsylvinho corinthiansvolta a uma tecnologia estranhamente capazsylvinho corinthiansinverter o cenário centralsylvinho corinthiansWhere Am I?: a IA generativa.

Sua capacidadesylvinho corinthiansinvocar simulacros humanos convincentes a partirsylvinho corinthianstrilhõessylvinho corinthiansbytessylvinho corinthiansdados possibilita revirar séculossylvinho corinthianshipóteses sobre a verdade, a identidade e nossas experiências compartilhadassylvinho corinthiansrealidade.

Em apenas 30 segundossylvinho corinthiansvídeo com qualidade moderada, por exemplo, serviçossylvinho corinthiansIA disponíveis gratuitamente já podem criar uma versão artificialsylvinho corinthiansqualquer pessoa – ou alguém totalmente fictício – e fazer com que eles digam absolutamente qualquer coisa.

Líderes como o primeiro-ministro indiano Narendra Modi já usaram ferramentassylvinho corinthiansIA para criar versõessylvinho corinthianssi próprios falando fluentementesylvinho corinthiansdialetos regionais, para angariar votos. Técnicas similares estão sendo desenvolvidas também na Indonésia e no Paquistão.

Em julhosylvinho corinthians2023, vídeos deepfakesylvinho corinthiansmulheres líderes da oposiçãosylvinho corinthiansBangladesh, supostamente mostradassylvinho corinthianspiscinas usando biquínis, foram rapidamente desmascarados, mas chegaram a receber muitos compartilhamentos.

E muito mais está por vir. O anosylvinho corinthians2024 é o maior ano eleitoral da história (metade da população mundial irá exercer seu direitosylvinho corinthiansvoto). E nunca foi tão fácil manipular as informações para influenciar as decisões das pessoas – ou subverter nossas intuições e inclinações diárias.

De fato, temos todas as razões para imaginar que, com dados suficientes, logo poderá ser possível criar uma cópia convincentesylvinho corinthiansuma pessoa – uma entidade que poderá passar por um político (ou por você, ou por mim)sylvinho corinthiansforma aceitável, não sósylvinho corinthiansuma apresentação pré-gravada, mas também nas conversas do dia a dia.

O conto e a realidade atual

Profeticamente, Dennett imaginou este cenário décadas atrás.

No contosylvinho corinthiansficção científica e no documentáriosylvinho corinthiansHoenderdos, os cientistas criam um novo Dennett: ao lado do cérebro original na cuba,sylvinho corinthiansmente é duplicada como um "gêmeo digital" e eles competem para manter o controle do seu corpo.

Neste cenário, a questão se uma pessoa realmente estásylvinho corinthiansalgum lugar – ou se falou, ou fez alguma coisa, ou mesmo se ela existe – fica ainda mais inquietante.

Para observar o quanto a realidade já está próxima da ficção, vamos considerar o caso do botsylvinho corinthiansLuciano Floridi, uma imitação criada por IAsylvinho corinthiansoutro importante filósofo da tecnologia.

Ele foi "projetado para responder perguntas e escrever textos imitando a formasylvinho corinthianspensar e o estilosylvinho corinthiansescreversylvinho corinthiansFloridi".

O bot é uma ferramenta pedagógica fascinante e um estudosylvinho corinthianscaso sobre como, na era da IA, nossas ideias e identidades podem começar a ter vida própria.

Para Dennett, havia algosylvinho corinthiansproblemático com a nossa obsessão pela IA com aparência humana.

Para ele, embora os fac-símiles completos da mente humana possam não ser algo iminente, a forma como estamos usando IA para imitar seres humanos já nos colocasylvinho corinthiansuma trajetória perigosa.

Ele chamava essas IAssylvinho corinthians"pessoas falsificadas" – e me disse que desenvolver essas entidadessylvinho corinthiansmassa constitui "malícia da pior espécie": uma formasylvinho corinthians"vandalismo social" que deveria ser proibida por lei. Por quê?

Porque, se representações digitais convincentessylvinho corinthiansseres humanos puderem ser criadas ao bel-prazer, todo o trabalhosylvinho corinthiansdeterminar coletivamente as afirmações, experiências e açõessylvinho corinthiansoutras pessoas estarásylvinho corinthiansrisco, sem mencionar a infraestrutura social essencialsylvinho corinthianscontratos, obrigações e consequências.

Daí a necessidade da proibição legal, o que ele detalhousylvinho corinthiansum artigo publicadosylvinho corinthiansmaiosylvinho corinthians2023 na revista The Atlantic.

"Não será algo perfeito", ele disse, "mas irá ajudar se pudermos criminalizar a produçãosylvinho corinthianspessoas falsificadas."

"Podemos ter sérias penalidades por falsificar pessoas, da mesma forma que temos para falsificar dinheiro... podemos transformarsylvinho corinthiansuma marcasylvinho corinthiansvergonha, nãosylvinho corinthiansorgulho, quando você tornar asylvinho corinthiansIA mais humana."

Existe aqui uma ironia no fatosylvinho corinthiansque Dennett passou décadas argumentando contra aqueles que tentavam criar alguma categoria elusivasylvinho corinthians"humanidade" que apenas as nossas mentes poderiam ter.

Materialista convicto, ele defendeu repetidamente ideias como a do seu estudo da teoria da evoluçãosylvinho corinthians1995, Darwin's Dangerous Idea ("A ideia perigosasylvinho corinthiansDarwin",sylvinho corinthianstradução livre): "Todas as conquistas da cultura humana – linguagem, arte, religião, ética e a própria ciência – são artefatos... do mesmo processo fundamental que desenvolveu as bactérias, os mamíferos e o Homo sapiens. Não existe Criação Especial da linguagem, nem a arte e a religião têm inspiração literalmente divina."

Ele defendia que o surgimento da humanidade a partirsylvinho corinthiansmatéria que não pensa é algo maravilhoso, mas não milagroso.

Até as mentes notáveis como as nossas, por fim, são o produtosylvinho corinthiansum conjuntosylvinho corinthiansmódulos incompreensíveis, compostossylvinho corinthianscomponentes mais brutos, conectadossylvinho corinthianssequências contínuas às primeiras formassylvinho corinthiansvida.

Consequentemente,sylvinho corinthiansprincípio, não existe nada que evite que os algoritmos da inteligência artificial atinjam ou excedam suas próprias capacidades; ou que os seres humanos ampliem e remodelem suas mentes com meios artificiais.

De fato, alguns dos primeiros e mais importantes trabalhossylvinho corinthiansDennett pretendiam defender a potência e o potencial da computação contra aqueles que argumentavam que o simples cálculo nunca geraria fenômenos como a consciência, como o filósofo americano John Searle.

Para Dennett, não havia nadasylvinho corinthians"simples"sylvinho corinthiansrelação ao cálculo ou aos processos algorítmicos. Sempre foi apenas questãosylvinho corinthiansescala e complexidade.

Neste sentido, as conquistas da IA moderna – das suas proezas linguísticas e domíniosylvinho corinthiansjogos como xadrez e Go até asylvinho corinthianscapacidadesylvinho corinthiansaprovaçãosylvinho corinthiansexames legais e médicos – justificam continuamente a insistênciasylvinho corinthiansDennettsylvinho corinthiansque pode surgir competênciasylvinho corinthiansnível humano a partirsylvinho corinthiansprocessos totalmente incompreensíveis (sem mencionar que, no nosso caso, isso já aconteceu).

Durante a nossa conversa, ele também se empenhousylvinho corinthiansdestacar o abismo existente entre a arquitetura computacional atual e as complexidades analógicas humanas.

A obsessão para saber se a IA irá atingir a "inteligência geral", com toda a flexibilidade cognitiva dos seres humanos, é perigosa, que dirá se ela irá chegar a algo ainda maior.

Ele observava que, muito antes que acontecesse algo desta magnitude, nós precisaríamos enfrentar o surgimentosylvinho corinthiansagentes autônomos "extremamente manipuladores", que irão representar uma ameaça muito maior do que as hipotéticas superinteligências ("esqueça isso!"). Por quê?

Porque, da mesma forma que as redes sociais provaram ser um ambiente propício para a evoluçãosylvinho corinthiansconteúdo capazsylvinho corinthiansexplorar as vulnerabilidades humanas, a mesma dinâmica favorece tanto o conteúdo gerado por IA, quanto as IAs capazessylvinho corinthiansdesenvolver uma atraente combinaçãosylvinho corinthianspersuasão, sedução, choque e bajulação.

Dos glamourosos e perfeitos influenciadores artificiais até a pornografia deepfake, das companhias infinitamente empáticas até as fraudes amorosas, as paixões e os desejos humanos são um campo fértil para refinar a manipulação.

Podemos (ainda) não ser cérebrossylvinho corinthianscubas. Mas aquilo que nós vemos, acreditamos, fazemos parte e realizamos é cada vez mais interligado a incontáveis sistemassylvinho corinthiansinformação – muitos deles, mais propensos a oferecer persuasão e plausibilidade do que a verdade.

Nada disso deve negar o poder e o potencialsylvinho corinthianstecnologias como a IA, nem as inúmeras formassylvinho corinthiansque ela pode ampliar as capacidades e o autoconhecimento da humanidade. Mas é fácil defender, como Dennett fazia, que as IAs provavelmente irão "evoluir até se reproduzirem".

"E as que se reproduzirem melhor serão os mais inteligentes manipuladores dos interlocutores humanos como nós. As entediantes, iremos deixarsylvinho corinthianslado, e as que mantiverem nossa atenção, iremos difundir. Tudo isso irá acontecer sem nenhuma intenção. Será a seleção natural do software."

Verdade vs. mentira

Não é necessário um planosylvinho corinthiansmestre elaborado por uma máquina ou por seres humanos para que se desenvolvam cenários maléficos.

No livro Das Bactérias a Bach e Vice-Versa: A Evolução das Mentes (Edições 70, 2021), Dennett defende que "quando a infraestrutura cultural estiver projetada e instalada [ou seja, evoluída nas mentes humanas]... a possibilidadesylvinho corinthiansmemes parasíticos explorando essa infraestrutura é mais ou menos garantida."

Em termos evolutivos, nossas mentes não são aparelhos sintonizados para diferenciar a verdade da mentira. Nós somos criaturas parciais, apaixonadas e tribais – animais sociais ligados por laçossylvinho corinthiansamor e lealdade que definem nossa humanidade e nos tornam dolorosamente vulneráveis.

O que podemos fazer a respeito?

Felizmente, outra característica que define o pensamento humano é a nossa capacidadesylvinho corinthiansrefletir precisamente sobre essas limitações, para corrigir,sylvinho corinthiansforma crescente e coletiva, os pontos cegos da percepção social.

"O que você quer", declarou Dennett, "é que o seu pensamento seja determinado pela verdade sobre tudo o que existe."

"Você quer ser levado pelas boas evidências existentes sobre o que é o mundo. Mas você também quer ter espaçosylvinho corinthiansmanobra para reconsiderar, reconsiderar e reconsiderar ainda mais: suas perspectivas, seus projetos, seus objetivos. Você quer ser um sistemasylvinho corinthiansintençõessylvinho corinthiansordem superior, que reflita sobre os meios, fins e propósitos."

Este é o método científico no microcosmo, com um toquesylvinho corinthianslivre pensamento humanista.

A "liberdade"sylvinho corinthiansagir com basesylvinho corinthiansinformações manipuladamente imprecisas não é liberdade. Já as ações determinadas pelas "boas evidências existentes" são emancipadoras: elas são abertas às complexidades da realidade e não traídas por mentiras.

Para ampliar o experimentosylvinho corinthiansWhere Am I?, imagine o que aconteceria se o seu cérebro fosse colocadosylvinho corinthiansuma cuba e, sem o seu conhecimento ou permissão, fosse conectado a uma versão simulada da realidade.

Naquele campo virtual, você ainda poderá ter certas liberdades. Mas, no contexto do mundo externo, você seria encurralado e ludibriado – excluídosylvinho corinthiansqualquer forma significativasylvinho corinthianscompreensão e ação.

Pode parecer puramente uma questãosylvinho corinthiansficção especulativa, mas uma versão desse cenário se desenrola sempre que alguém acredita que uma afirmação falsa é a verdade literal – ou que uma entidade artificial é um ser humano.

Das teorias da conspiração até a propaganda totalitária, das evidências fabricadas até falsos seres humanos, a rejeição da realidade é um negócio florescente. E não há nadasylvinho corinthiansinevitável sobre a persistência da tolerância, do ceticismo ou do debate racionalsylvinho corinthiansum mundo inundado por este tiposylvinho corinthianssituação.

Para Dennett, a nossa civilização "é mais frágil do que pensávamos" – e, justamente por isso, mais preciosa.

Apesarsylvinho corinthianstodos os conflitos, injustiças e rancores, vivemossylvinho corinthiansuma erasylvinho corinthiansque grande parte dos seres humanos podem "confiar uns nos outros, ter projetossylvinho corinthianslongo prazo, viajar livremente, formar família e viver com muito pouco medo".

"Isso é simplesmente maravilhoso. E devemos preservar isso. Essa estrutura,sylvinho corinthiansverdade, a todo custo."

Este é o grande risco dos grandes modelossylvinho corinthianslinguagemsylvinho corinthiansIA e das pessoas falsificadas: "que eles destruam a confiança que levamos milharessylvinho corinthiansanos para construir."

Apesarsylvinho corinthianstudo isso – e dasylvinho corinthiansreputaçãosylvinho corinthiansinflexível razoabilidade – Dennett deixou claro que não tinha interessesylvinho corinthianstranscender as limitações da natureza humana.

Para ele, o amor e a lealdade não eram uma bagagem biológica que seria melhor superarmos. Pelo contrário, eles são forças motivadoras do tipo mais profundo: fontessylvinho corinthianspropósito esylvinho corinthiansbondade, desde que possam ser libertadas do ódio e do egoísmo.

"Buscar o essencial é uma orientação perfeita. Mas o essencial pode ser compreendidosylvinho corinthiansforma muito ampla. O essencial pode incluir seus filhos, uma ideia, tocar violão, os Chicago Bears [timesylvinho corinthiansfutebol americano]."

"O essencial pode ser qualquer coisa que você queira que seja. É aquilo que é mais importante para você. É o que você procura para ter proteção. E isso é óbvio. Se alguém quiser extorquir você, eles não precisam ameaçar você. Eles precisam apenas ameaçar aquilo que você ama."

A biologia é onde tudo começa e termina: o surpreendente padrãosylvinho corinthiansevolução do nosso surgimento ao ladosylvinho corinthianstodas as outras formassylvinho corinthiansvida; as infinitas complexidades que somos capazessylvinho corinthiansconceber pela cultura, linguagem e computação; e nossa existência comum como criaturassylvinho corinthianscarne e osso.

"Meus dois filhos são adotados", contou Dennett ao final da nossa conversa. "Mas eu os amo com a mesma intensidadesylvinho corinthiansqualquer pai biológico."

"Eu me lembrosylvinho corinthiansum momento na infância da nossa mais velha, quando ela era uma garotinha, talvez com dois anossylvinho corinthiansidade ou menos,sylvinho corinthiansque percebi uma possível ameaça no parquinho ou algo assim e aquilo subitamente me impressionou. 'Oh, vejam só, acho que eu mataria para proteger esta criança.'"

"E aquilo quase me assustou. Mas também me emocionou, porque era o reconhecimentosylvinho corinthiansuma intensa e profunda ligação emocional. E este é o sentido da vida."

* Tom Chatfield é escritor e filósofosylvinho corinthianstecnologia britânico. Seu livro mais recente, Wise Animals ("Animais inteligentes",sylvinho corinthianstradução livre), explora a evolução conjunta da humanidade e da tecnologia.

Leia a versão original desta reportagem (em inglês) no site BBC Innovation.