Por que especialistas dizem que inteligência artificial pode levar à extinção da humanidade:7games jogo de download

Sam Altman, executivo-chefe da OpenAI, fabricante do ChatGPT, Demis Hassabis, executivo-chefe do Google DeepMind e Dario Amodei, da Anthropic, apoiaram a declaração.

O texto do Center for AI Safety sugere uma série7games jogo de downloadpossíveis cenários7games jogo de downloaddesastre:

Geoffrey Hinton, que emitiu um alerta anterior sobre os riscos da IA superinteligente, também apoiou a carta do Center for AI Safety.

Yoshua Bengio, professor7games jogo de downloadCiências da Computação na Universidade7games jogo de downloadMontreal, no Canadá, também assinou o manifesto.

Hinton, Bengio e o professor da Universidade7games jogo de downloadNova York (NYU), Yann LeCunn, são frequentemente descritos como os "padrinhos da IA" pelo trabalho inovador que fizeram neste campo — e pelo qual ganharam juntos o Prêmio Turing7games jogo de download2018, que reconhece contribuições excepcionais na ciência da computação.

Mas o professor LeCunn, que também trabalha na Meta, empresa dona do Facebook, disse que esses avisos apocalípticos são "exagerados" e que "a reação mais comum dos pesquisadores7games jogo de downloadIA a essas profecias7games jogo de downloaddestruição é embaraçosa".

Muitos outros especialistas também acreditam que o medo7games jogo de downloada IA acabar com a humanidade é irreal e uma distração7games jogo de downloadquestões como preconceito7games jogo de downloadrelação aos sistemas, que já são um problema.

Arvind Narayanan, um cientista da computação da Universidade7games jogo de downloadPrinceton, nos EUA, disse à BBC que os cenários7games jogo de downloaddesastre7games jogo de downloadficção científica não são realistas.

"A IA atual não é nem7games jogo de downloadlonge suficientemente capaz para que esses riscos se materializem. Como resultado, isso desvia a atenção dos danos7games jogo de downloadcurto prazo da IA", avalia ele.

Elizabeth Renieris, pesquisadora sênior do Instituto7games jogo de downloadÉtica7games jogo de downloadIA da Universidade Oxford, no Reino Unido, disse à BBC News que se preocupa com os riscos mais próximos.

"Os avanços na IA ampliarão a escala da tomada7games jogo de downloaddecisão automatizada que é tendenciosa, discriminatória, excludente ou injusta. Ao mesmo tempo7games jogo de downloadque é inescrutável e incontestável", acredita ela.

Estes avanços "podem impulsionar um aumento exponencial no volume e na disseminação7games jogo de downloaddesinformação, fraturando assim a realidade e corroendo a confiança do público, além7games jogo de downloadgerar mais desigualdade, principalmente para aqueles que permanecem do lado errado da divisão digital".

Muitas ferramentas7games jogo de downloadIA essencialmente "pegam carona"7games jogo de download"toda a experiência humana até o momento", destaca Renieris.

Várias dessas tecnologias são treinadas7games jogo de downloadconteúdo, texto, arte e música criados por humanos — e seus criadores "transferiram efetivamente uma tremenda riqueza e poder da esfera pública para um pequeno punhado7games jogo de downloadentidades privadas".

Pausa solicitada

A cobertura da imprensa sobre a suposta ameaça "existencial" da IA aumentou desde março7games jogo de download2023, quando especialistas, incluindo o dono da Tesla, Elon Musk, assinaram uma carta aberta pedindo a suspensão do desenvolvimento da próxima geração7games jogo de downloadtecnologia7games jogo de downloadIA.

Essa carta perguntava se deveríamos "desenvolver mentes não-humanas que eventualmente superassem7games jogo de downloadnúmero, fossem mais espertas, nos tornassem obsoletos e nos substituíssem".

Em contraste, a nova carta divulgada por especialistas tem uma declaração muito curta, destinada a "abrir a discussão".

A declaração compara o risco ao representado pela guerra nuclear.

Em uma postagem no blog, a OpenAI sugeriu recentemente que a superinteligência pode ser regulada7games jogo de downloadmaneira semelhante à energia nuclear.

"É provável que eventualmente precisemos7games jogo de downloadalgo como uma AIEA (Agência Internacional7games jogo de downloadEnergia Atômica) para os esforços7games jogo de downloadsuperinteligência", escreveu a empresa.

Análises cuidadosas

Sam Altman e o executivo-chefe do Google, Sundar Pichai, estão entre os líderes7games jogo de downloadtecnologia que discutiram recentemente a regulamentação da IA com o primeiro-ministro inglês, Rishi Sunak.

Ao falar com repórteres sobre o último alerta sobre o risco7games jogo de downloadIA, Sunak enfatizou os benefícios da tecnologia para a economia e a sociedade.

"Você viu que recentemente a IA ajudou pessoas paralisadas a andar e descobriu novos antibióticos, mas precisamos garantir que isso seja feito7games jogo de downloadmaneira segura e protegida", disse ele.

"É por isso que me encontrei na semana passada com CEOs7games jogo de downloadgrandes empresas7games jogo de downloadIA para discutir quais são as barreiras que precisamos implementar e qual é o tipo7games jogo de downloadregulamentação que deve ser criada para nos manter seguros."

"As pessoas ficarão preocupadas com os relatos7games jogo de downloadque a IA representa riscos existenciais, como as pandemias ou as guerras nucleares. Mas quero que elas tenham certeza7games jogo de downloadque o governo está analisando isso com muito cuidado", concluiu.

Sunak disse que havia discutido a questão recentemente com outros líderes na cúpula do G7 no Japão e iria levá-lo novamente a representantes dos EUA7games jogo de downloadbreve.

A cúpula7games jogo de downloadpaíses mais ricos, inclusive, criou recentemente um grupo7games jogo de downloadtrabalho sobre a IA.

- Este texto foi publicado7games jogo de downloadhttp://vesser.net/articles/c51q3jvlyj8o