O professor que foi considerado 'louco e alarmista' e vem acertando previsões sobre inteligência artificial:como apostar na lotomanía

A esposa sustenta que o contato com o programa o levou a tirar a própria vida. Para o governo belga, o caso é "um precedente que deve ser levado a sério" e "o perigo do uso [de inteligência artificial] é uma realidade que precisa ser considerada".

Foi um cenário possível descrito quatro meses antes por Marcuscomo apostar na lotomaníaartigo para a revista Wired: "Talvez um chatbot vá magoar alguém tão profundamente que a pessoa será levada a acabar com acomo apostar na lotomaníavida? (...) Em 2023, nós talvez vejamos nossa primeira morte por um chatbot".

"Acho que esses sistemas podem ser muito destrutivos. E parte do motivo do potencialcomo apostar na lotomaníadestruição é que eles não são confiáveis. Esses programas podem inventar algo e dizer [a um usuário] que isso é um fato. E eles também podem ser usados por pessoas com essa finalidade", diz.

"Os sistemascomo apostar na lotomaníainteligência artificial que temos agora não são bem controlados. Ainda não é uma situação terrível, mas as pessoas estão dando mais e mais poderes a eles. E não sabemos o que esses sistemas podem executarcomo apostar na lotomaníauma determinada situação."

'Sete previsões sombrias'

Marcus compilou no ano passado "sete previsões sombrias" sobre sistemas como o ChatGPT, entre elas acomo apostar na lotomaníaque a versão mais nova do programa seria como um "tourocomo apostar na lotomaníauma lojacomo apostar na lotomaníaporcelanas, imprudente e difícilcomo apostar na lotomaníacontrolar. Fará um significativo númerocomo apostar na lotomaníaerros estúpidos,como apostar na lotomaníafazer balançar a cabeça,como apostar na lotomaníamaneiras difíceiscomo apostar na lotomaníaprever".

No finalcomo apostar na lotomaníamarço, um caso bizarro chamou a atenção. Uma pessoa pediu ao ChatGPT para citar acadêmicos envolvidoscomo apostar na lotomaníaepisódioscomo apostar na lotomaníaassédio sexual.

A lista mencionava um professor norte-americanocomo apostar na lotomaníaDireito, Jonathan Turley. O programa disse que Turley fez comentários sexualmente sugestivos a uma aluna durante uma viagem ao Alasca e tentou tocá-la. A resposta citava como evidência uma reportagemcomo apostar na lotomanía2018 do jornal The Washington Post.

Mas nada disso jamais existiu: nem a viagem, nem a reportagem ou mesmo a acusação. Só o professor ecomo apostar na lotomaníareputação eramcomo apostar na lotomaníaverdade. É como se o robô tivesse inventado uma calúnia.

A OpenAI, empresa do ChatGPT, divulgou um comunicado dizendo que o programa "nem sempre gera respostas precisas".

Para Marcus, "não temos nenhuma garantia formalcomo apostar na lotomaníaque esses programas vão trabalhar da forma correta, mesmo quando fazem cálculos matemáticos. Às vezes eles estão corretos, às vezes não. Faltacomo apostar na lotomaníacontrole ecomo apostar na lotomaníaconfiabilidade são problemas que enxergo".

"Acomo apostar na lotomaníacalculadora tradicional tem a garantiacomo apostar na lotomaníauma resposta aritmética. Mas os grandes modeloscomo apostar na lotomaníalinguagem, não."

Ele se refere ao sistema por trás do ChatGPT, os LLMs (siglacomo apostar na lotomaníainglês para large language models), que armazenam quantidades gigantescascomo apostar na lotomaníadados e geram, por meiocomo apostar na lotomaníapoderosos algoritmos, respostas por aproximação baseadas no que já foi dito antes por humanos.

Em resumo: um papagaio ultrassofisticado, mas que não faz ideia do que está falando e às vezes "alucina" — um termo da IA que designa uma resposta fora do esperado, desalinhada da expectativa dos programadores.

"Os LLMs não são tão inteligentes assim, mas são perigosos", diz Marcus, que também colocou o crescimentocomo apostar na lotomaníamomentoscomo apostar na lotomaníaalucinação dentrocomo apostar na lotomaníasua listacomo apostar na lotomanía"previsões sombrias".

Além dos geradorescomo apostar na lotomaníatexto, os programas que manipulam imagens também evoluem rapidamente.

Recentemente uma foto do papa Francisco com uma descolada jaqueta prata, feita com o programa Midjourney, deixou a internet confusa por algumas horas: aquela imagem era real?

O episódio teve consequências inofensivas, mas foi uma amostra do potencial para inaugurar uma zona cinzenta permanente entre fatos e falsificações.

"A não ser que a gente tome providências, estamos próximoscomo apostar na lotomaníaentrarcomo apostar na lotomaníaum ambientecomo apostar na lotomaníapós-verdade", afirma o professor da NYU.

"O que torna tudo muito difícil para a democracia. Precisamoscomo apostar na lotomaníasanções para quem produz desinformaçãocomo apostar na lotomaníamassa, exigir marcas d'água para identificarcomo apostar na lotomaníaonde vem a informação e criar novas tecnologias para detectar inverdades. Assim como existe programacomo apostar na lotomaníaantivírus, precisamoscomo apostar na lotomaníasoftware antidesinformação."

'O capitalismo não vai resolver esses problemas'

A experiênciacomo apostar na lotomaníaMarcus,como apostar na lotomanía53 anos, não é restrita ao mundo acadêmico. Ele vendeu uma empresa para o Uber e se tornou diretorcomo apostar na lotomaníaum laboratóriocomo apostar na lotomaníaIA da gigante dos appscomo apostar na lotomaníatransporte — deixou o cargo depoiscomo apostar na lotomaníaapenas quatro meses, num períodocomo apostar na lotomaníaque a companhia enfrentava acusaçõescomo apostar na lotomaníamanter um ambiente "tóxico".

Questionado se o famoso mantra "mova-se rápido e quebre coisas" do Vale do Silício e a competição desenfreada por mercados justamente não cria circunstâncias perigosas para o desenvolvimento da inteligência artificial, ele diz que "não dá para esperar que o capitalismo, por si só, vá resolver esses problemas".

Ele defende que as empresas sejam objetocomo apostar na lotomaníaregulamentação e cita o mercadocomo apostar na lotomaníaaviação como um exemplocomo apostar na lotomaníaque é algo necessário.

"O setor aéreo na décadacomo apostar na lotomanía1950 era um desastre. Os aviões caíam o tempo todo. A regulamentação foi boa para o setor aéreo, conseguiu que a indústria aérea desenvolvesse um produto melhor no final das contas", afirma.

"Deixar as coisas nas mãos das empresas não necessariamente leva ao caminho correto. Você quer que as empresas sejam parceiras para construir o que precisa ser feito. Mas há uma razão para ter governos, certo?"

Entendimento com o 'padrinho da IA'

O posicionamentocomo apostar na lotomaníacautela e desconfiança com o entusiasmo pela rápida evolução da IA nem sempre foi bem recebido.

O ceticismocomo apostar na lotomaníaMarcus foi ironizadocomo apostar na lotomaníaoutros anos por seus pares (principalmentecomo apostar na lotomaníaalfinetadas pelo Twitter), mas a maré mudou: diversas personalidades da área começaram a adotar um tom diferente.

Geoffrey Hinton, chamadocomo apostar na lotomanía"padrinho da IA", anunciou seu desligamento do Google e afirmou logo na sequência que considera os problemas com inteligência artificial "talvez mais urgentes do que os da mudança climática".

"Eu e Hinton temos visões diferentes sobre alguns aspectos da inteligência artificial. Eu me correspondi com ele há pouco, eu expliquei a minha posição e ele concordou comigo, o que nem sempre acontece. Mas a questão principalcomo apostar na lotomaníaque concordamos é controle", afirma.

"Não necessariamente concordo que [IA] seja uma ameaça maior do que a mudança climática, mas é difícil saber. Há muitos dados estabelecidos para tentar estimar os riscos das mudanças climáticas. Mas com a inteligência artificial nós nem sabemos como calcular esses riscos."

"Mas, para mim, a chancecomo apostar na lotomaníaque essas ferramentas sejam usadas para abalar democracias é essencialmentecomo apostar na lotomanía100%. Agora, se há chancecomo apostar na lotomaníaos robôs dominarem o planeta, não temos ideia. É razoável que algumas pessoas se dediquem a esse cenário. Estamos construindo ferramentas muito poderosas. Devemos considerar essas ameaças."