O professor que foi considerado 'louco e alarmista' e vem acertando previsões sobre inteligência artificial:múltiplas na betano

A esposa sustenta que o contato com o programa o levou a tirar a própria vida. Para o governo belga, o caso é "um precedente que deve ser levado a sério" e "o perigo do uso [de inteligência artificial] é uma realidade que precisa ser considerada".

Foi um cenário possível descrito quatro meses antes por Marcusmúltiplas na betanoartigo para a revista Wired: "Talvez um chatbot vá magoar alguém tão profundamente que a pessoa será levada a acabar com amúltiplas na betanovida? (...) Em 2023, nós talvez vejamos nossa primeira morte por um chatbot".

"Acho que esses sistemas podem ser muito destrutivos. E parte do motivo do potencialmúltiplas na betanodestruição é que eles não são confiáveis. Esses programas podem inventar algo e dizer [a um usuário] que isso é um fato. E eles também podem ser usados por pessoas com essa finalidade", diz.

"Os sistemasmúltiplas na betanointeligência artificial que temos agora não são bem controlados. Ainda não é uma situação terrível, mas as pessoas estão dando mais e mais poderes a eles. E não sabemos o que esses sistemas podem executarmúltiplas na betanouma determinada situação."

'Sete previsões sombrias'

Marcus compilou no ano passado "sete previsões sombrias" sobre sistemas como o ChatGPT, entre elas amúltiplas na betanoque a versão mais nova do programa seria como um "touromúltiplas na betanouma lojamúltiplas na betanoporcelanas, imprudente e difícilmúltiplas na betanocontrolar. Fará um significativo númeromúltiplas na betanoerros estúpidos,múltiplas na betanofazer balançar a cabeça,múltiplas na betanomaneiras difíceismúltiplas na betanoprever".

No finalmúltiplas na betanomarço, um caso bizarro chamou a atenção. Uma pessoa pediu ao ChatGPT para citar acadêmicos envolvidosmúltiplas na betanoepisódiosmúltiplas na betanoassédio sexual.

A lista mencionava um professor norte-americanomúltiplas na betanoDireito, Jonathan Turley. O programa disse que Turley fez comentários sexualmente sugestivos a uma aluna durante uma viagem ao Alasca e tentou tocá-la. A resposta citava como evidência uma reportagemmúltiplas na betano2018 do jornal The Washington Post.

Mas nada disso jamais existiu: nem a viagem, nem a reportagem ou mesmo a acusação. Só o professor emúltiplas na betanoreputação erammúltiplas na betanoverdade. É como se o robô tivesse inventado uma calúnia.

A OpenAI, empresa do ChatGPT, divulgou um comunicado dizendo que o programa "nem sempre gera respostas precisas".

Para Marcus, "não temos nenhuma garantia formalmúltiplas na betanoque esses programas vão trabalhar da forma correta, mesmo quando fazem cálculos matemáticos. Às vezes eles estão corretos, às vezes não. Faltamúltiplas na betanocontrole emúltiplas na betanoconfiabilidade são problemas que enxergo".

"Amúltiplas na betanocalculadora tradicional tem a garantiamúltiplas na betanouma resposta aritmética. Mas os grandes modelosmúltiplas na betanolinguagem, não."

Ele se refere ao sistema por trás do ChatGPT, os LLMs (siglamúltiplas na betanoinglês para large language models), que armazenam quantidades gigantescasmúltiplas na betanodados e geram, por meiomúltiplas na betanopoderosos algoritmos, respostas por aproximação baseadas no que já foi dito antes por humanos.

Em resumo: um papagaio ultrassofisticado, mas que não faz ideia do que está falando e às vezes "alucina" — um termo da IA que designa uma resposta fora do esperado, desalinhada da expectativa dos programadores.

"Os LLMs não são tão inteligentes assim, mas são perigosos", diz Marcus, que também colocou o crescimentomúltiplas na betanomomentosmúltiplas na betanoalucinação dentromúltiplas na betanosua listamúltiplas na betano"previsões sombrias".

Além dos geradoresmúltiplas na betanotexto, os programas que manipulam imagens também evoluem rapidamente.

Recentemente uma foto do papa Francisco com uma descolada jaqueta prata, feita com o programa Midjourney, deixou a internet confusa por algumas horas: aquela imagem era real?

O episódio teve consequências inofensivas, mas foi uma amostra do potencial para inaugurar uma zona cinzenta permanente entre fatos e falsificações.

"A não ser que a gente tome providências, estamos próximosmúltiplas na betanoentrarmúltiplas na betanoum ambientemúltiplas na betanopós-verdade", afirma o professor da NYU.

"O que torna tudo muito difícil para a democracia. Precisamosmúltiplas na betanosanções para quem produz desinformaçãomúltiplas na betanomassa, exigir marcas d'água para identificarmúltiplas na betanoonde vem a informação e criar novas tecnologias para detectar inverdades. Assim como existe programamúltiplas na betanoantivírus, precisamosmúltiplas na betanosoftware antidesinformação."

'O capitalismo não vai resolver esses problemas'

A experiênciamúltiplas na betanoMarcus,múltiplas na betano53 anos, não é restrita ao mundo acadêmico. Ele vendeu uma empresa para o Uber e se tornou diretormúltiplas na betanoum laboratóriomúltiplas na betanoIA da gigante dos appsmúltiplas na betanotransporte — deixou o cargo depoismúltiplas na betanoapenas quatro meses, num períodomúltiplas na betanoque a companhia enfrentava acusaçõesmúltiplas na betanomanter um ambiente "tóxico".

Questionado se o famoso mantra "mova-se rápido e quebre coisas" do Vale do Silício e a competição desenfreada por mercados justamente não cria circunstâncias perigosas para o desenvolvimento da inteligência artificial, ele diz que "não dá para esperar que o capitalismo, por si só, vá resolver esses problemas".

Ele defende que as empresas sejam objetomúltiplas na betanoregulamentação e cita o mercadomúltiplas na betanoaviação como um exemplomúltiplas na betanoque é algo necessário.

"O setor aéreo na décadamúltiplas na betano1950 era um desastre. Os aviões caíam o tempo todo. A regulamentação foi boa para o setor aéreo, conseguiu que a indústria aérea desenvolvesse um produto melhor no final das contas", afirma.

"Deixar as coisas nas mãos das empresas não necessariamente leva ao caminho correto. Você quer que as empresas sejam parceiras para construir o que precisa ser feito. Mas há uma razão para ter governos, certo?"

Entendimento com o 'padrinho da IA'

O posicionamentomúltiplas na betanocautela e desconfiança com o entusiasmo pela rápida evolução da IA nem sempre foi bem recebido.

O ceticismomúltiplas na betanoMarcus foi ironizadomúltiplas na betanooutros anos por seus pares (principalmentemúltiplas na betanoalfinetadas pelo Twitter), mas a maré mudou: diversas personalidades da área começaram a adotar um tom diferente.

Geoffrey Hinton, chamadomúltiplas na betano"padrinho da IA", anunciou seu desligamento do Google e afirmou logo na sequência que considera os problemas com inteligência artificial "talvez mais urgentes do que os da mudança climática".

"Eu e Hinton temos visões diferentes sobre alguns aspectos da inteligência artificial. Eu me correspondi com ele há pouco, eu expliquei a minha posição e ele concordou comigo, o que nem sempre acontece. Mas a questão principalmúltiplas na betanoque concordamos é controle", afirma.

"Não necessariamente concordo que [IA] seja uma ameaça maior do que a mudança climática, mas é difícil saber. Há muitos dados estabelecidos para tentar estimar os riscos das mudanças climáticas. Mas com a inteligência artificial nós nem sabemos como calcular esses riscos."

"Mas, para mim, a chancemúltiplas na betanoque essas ferramentas sejam usadas para abalar democracias é essencialmentemúltiplas na betano100%. Agora, se há chancemúltiplas na betanoos robôs dominarem o planeta, não temos ideia. É razoável que algumas pessoas se dediquem a esse cenário. Estamos construindo ferramentas muito poderosas. Devemos considerar essas ameaças."