O professor que foi considerado 'louco e alarmista' e vem acertando previsões sobre inteligência artificial:win casa de apostas

A esposa sustenta que o contato com o programa o levou a tirar a própria vida. Para o governo belga, o caso é "um precedente que deve ser levado a sério" e "o perigo do uso [de inteligência artificial] é uma realidade que precisa ser considerada".

Foi um cenário possível descrito quatro meses antes por Marcuswin casa de apostasartigo para a revista Wired: "Talvez um chatbot vá magoar alguém tão profundamente que a pessoa será levada a acabar com awin casa de apostasvida? (...) Em 2023, nós talvez vejamos nossa primeira morte por um chatbot".

"Acho que esses sistemas podem ser muito destrutivos. E parte do motivo do potencialwin casa de apostasdestruição é que eles não são confiáveis. Esses programas podem inventar algo e dizer [a um usuário] que isso é um fato. E eles também podem ser usados por pessoas com essa finalidade", diz.

"Os sistemaswin casa de apostasinteligência artificial que temos agora não são bem controlados. Ainda não é uma situação terrível, mas as pessoas estão dando mais e mais poderes a eles. E não sabemos o que esses sistemas podem executarwin casa de apostasuma determinada situação."

'Sete previsões sombrias'

Marcus compilou no ano passado "sete previsões sombrias" sobre sistemas como o ChatGPT, entre elas awin casa de apostasque a versão mais nova do programa seria como um "tourowin casa de apostasuma lojawin casa de apostasporcelanas, imprudente e difícilwin casa de apostascontrolar. Fará um significativo númerowin casa de apostaserros estúpidos,win casa de apostasfazer balançar a cabeça,win casa de apostasmaneiras difíceiswin casa de apostasprever".

No finalwin casa de apostasmarço, um caso bizarro chamou a atenção. Uma pessoa pediu ao ChatGPT para citar acadêmicos envolvidoswin casa de apostasepisódioswin casa de apostasassédio sexual.

A lista mencionava um professor norte-americanowin casa de apostasDireito, Jonathan Turley. O programa disse que Turley fez comentários sexualmente sugestivos a uma aluna durante uma viagem ao Alasca e tentou tocá-la. A resposta citava como evidência uma reportagemwin casa de apostas2018 do jornal The Washington Post.

Mas nada disso jamais existiu: nem a viagem, nem a reportagem ou mesmo a acusação. Só o professor ewin casa de apostasreputação eramwin casa de apostasverdade. É como se o robô tivesse inventado uma calúnia.

A OpenAI, empresa do ChatGPT, divulgou um comunicado dizendo que o programa "nem sempre gera respostas precisas".

Para Marcus, "não temos nenhuma garantia formalwin casa de apostasque esses programas vão trabalhar da forma correta, mesmo quando fazem cálculos matemáticos. Às vezes eles estão corretos, às vezes não. Faltawin casa de apostascontrole ewin casa de apostasconfiabilidade são problemas que enxergo".

"Awin casa de apostascalculadora tradicional tem a garantiawin casa de apostasuma resposta aritmética. Mas os grandes modeloswin casa de apostaslinguagem, não."

Ele se refere ao sistema por trás do ChatGPT, os LLMs (siglawin casa de apostasinglês para large language models), que armazenam quantidades gigantescaswin casa de apostasdados e geram, por meiowin casa de apostaspoderosos algoritmos, respostas por aproximação baseadas no que já foi dito antes por humanos.

Em resumo: um papagaio ultrassofisticado, mas que não faz ideia do que está falando e às vezes "alucina" — um termo da IA que designa uma resposta fora do esperado, desalinhada da expectativa dos programadores.

"Os LLMs não são tão inteligentes assim, mas são perigosos", diz Marcus, que também colocou o crescimentowin casa de apostasmomentoswin casa de apostasalucinação dentrowin casa de apostassua listawin casa de apostas"previsões sombrias".

Além dos geradoreswin casa de apostastexto, os programas que manipulam imagens também evoluem rapidamente.

Recentemente uma foto do papa Francisco com uma descolada jaqueta prata, feita com o programa Midjourney, deixou a internet confusa por algumas horas: aquela imagem era real?

O episódio teve consequências inofensivas, mas foi uma amostra do potencial para inaugurar uma zona cinzenta permanente entre fatos e falsificações.

"A não ser que a gente tome providências, estamos próximoswin casa de apostasentrarwin casa de apostasum ambientewin casa de apostaspós-verdade", afirma o professor da NYU.

"O que torna tudo muito difícil para a democracia. Precisamoswin casa de apostassanções para quem produz desinformaçãowin casa de apostasmassa, exigir marcas d'água para identificarwin casa de apostasonde vem a informação e criar novas tecnologias para detectar inverdades. Assim como existe programawin casa de apostasantivírus, precisamoswin casa de apostassoftware antidesinformação."

'O capitalismo não vai resolver esses problemas'

A experiênciawin casa de apostasMarcus,win casa de apostas53 anos, não é restrita ao mundo acadêmico. Ele vendeu uma empresa para o Uber e se tornou diretorwin casa de apostasum laboratóriowin casa de apostasIA da gigante dos appswin casa de apostastransporte — deixou o cargo depoiswin casa de apostasapenas quatro meses, num períodowin casa de apostasque a companhia enfrentava acusaçõeswin casa de apostasmanter um ambiente "tóxico".

Questionado se o famoso mantra "mova-se rápido e quebre coisas" do Vale do Silício e a competição desenfreada por mercados justamente não cria circunstâncias perigosas para o desenvolvimento da inteligência artificial, ele diz que "não dá para esperar que o capitalismo, por si só, vá resolver esses problemas".

Ele defende que as empresas sejam objetowin casa de apostasregulamentação e cita o mercadowin casa de apostasaviação como um exemplowin casa de apostasque é algo necessário.

"O setor aéreo na décadawin casa de apostas1950 era um desastre. Os aviões caíam o tempo todo. A regulamentação foi boa para o setor aéreo, conseguiu que a indústria aérea desenvolvesse um produto melhor no final das contas", afirma.

"Deixar as coisas nas mãos das empresas não necessariamente leva ao caminho correto. Você quer que as empresas sejam parceiras para construir o que precisa ser feito. Mas há uma razão para ter governos, certo?"

Entendimento com o 'padrinho da IA'

O posicionamentowin casa de apostascautela e desconfiança com o entusiasmo pela rápida evolução da IA nem sempre foi bem recebido.

O ceticismowin casa de apostasMarcus foi ironizadowin casa de apostasoutros anos por seus pares (principalmentewin casa de apostasalfinetadas pelo Twitter), mas a maré mudou: diversas personalidades da área começaram a adotar um tom diferente.

Geoffrey Hinton, chamadowin casa de apostas"padrinho da IA", anunciou seu desligamento do Google e afirmou logo na sequência que considera os problemas com inteligência artificial "talvez mais urgentes do que os da mudança climática".

"Eu e Hinton temos visões diferentes sobre alguns aspectos da inteligência artificial. Eu me correspondi com ele há pouco, eu expliquei a minha posição e ele concordou comigo, o que nem sempre acontece. Mas a questão principalwin casa de apostasque concordamos é controle", afirma.

"Não necessariamente concordo que [IA] seja uma ameaça maior do que a mudança climática, mas é difícil saber. Há muitos dados estabelecidos para tentar estimar os riscos das mudanças climáticas. Mas com a inteligência artificial nós nem sabemos como calcular esses riscos."

"Mas, para mim, a chancewin casa de apostasque essas ferramentas sejam usadas para abalar democracias é essencialmentewin casa de apostas100%. Agora, se há chancewin casa de apostasos robôs dominarem o planeta, não temos ideia. É razoável que algumas pessoas se dediquem a esse cenário. Estamos construindo ferramentas muito poderosas. Devemos considerar essas ameaças."