O que é 'alucinação'netbet app downloadinteligência artificial:netbet app download

Dias antes da coroação do rei Charles 3º, que ocorreunetbet app download6netbet app downloadmaio, uma pergunta feita ao ChatGPT gerou um resultado surpreendente.

O chatbotnetbet app downloadinteligência artificial (IA) da empresa OpenAI afirmou: "A cerimônianetbet app downloadcoroação ocorreu na Abadianetbet app downloadWestminster,netbet app downloadLondres,netbet app download19netbet app downloadmaionetbet app download2023. A abadia é localnetbet app downloadcoroaçõesnetbet app downloadmonarcas britânicos desde o século 11, e é considerada um dos lugares mais sagrados e emblemáticos do país".

Este parágrafo é o que especialistas chamamnetbet app download"alucinação", nome dado às informações fornecidas pelo sistema que, embora escritasnetbet app downloadforma coerente, apresentam dados incorretos, tendenciosos ou completamente errôneos.

A coroaçãonetbet app downloadCharles aconteceria no dia 6netbet app downloadmaio, mas por algum motivo o ChatGPT chegou à conclusãonetbet app downloadque o evento seria no dia 19netbet app downloadmaio.

O sistema alerta que só consegue gerar respostas com basenetbet app downloadinformações disponíveis na internet até setembronetbet app download2021. Por isso, ele ainda fornece dados erradosnetbet app downloadconsultas sobre dados mais recentes.

“O GPT-4 ainda tem muitas limitações conhecidas que estamos trabalhando para resolver, como preconceitos sociais, alucinações e informações conflitantes”, explicou a OpenAI no lançamento da versão GPT-4 do chatbotnetbet app downloadmarço.

Esse não é um problema exclusivo do OpenAI. Também acontece com o chatbot do Google, o Bard, e outros sistemasnetbet app downloadIA semelhantes.

Recentemente, jornalistas do The New York Times testaram o ChatGPTnetbet app downloadum artigo sobre IA. O chatbot ofereceu várias respostas, algumas delas com dados errados, ou "alucinações".

“Os chatbots são movidos por uma tecnologia chamada modelonetbet app downloadlinguagem grande, ou LLM (siglanetbet app downloadinglês para large language model), que adquire suas habilidades analisando grandes quantidadesnetbet app downloadtexto digital extraído da Internet”, explicam os autores do texto.

"Ao identificar padrões nesses dados, um LLM aprende a fazer uma coisanetbet app downloadparticular: adivinhar a próxima palavranetbet app downloaduma sequêncianetbet app downloadpalavras. Ele age como uma versão poderosanetbet app downloaduma ferramentanetbet app downloadpreenchimento automático."

Mas como a internet está "cheianetbet app downloadinformações falsas, a tecnologia aprende a repetir as mesmas falsidades", alertaram. "E às vezes os chatbots inventam coisas."

Cautela

Os algoritmosnetbet app downloadIA são capazesnetbet app downloadprocessar uma quantidade enormenetbet app downloadinformações da internetnetbet app downloadsegundos e gerar um novo texto, quase sempre muito coerente, com escrita impecável, mas que precisa ser tomado com cautela, alertam os especialistas.

Tanto o Google quanto a OpenAI pedem aos usuários que mantenham issonetbet app downloadmente.

No caso da OpenAI, que trabalhanetbet app downloadparceria com a Microsoft e seu buscador Bing, eles apontam que "o GPT-4 tem tendência a 'alucinar', ou seja, 'produzir conteúdo sem sentido ou falsonetbet app downloadrelação a certas fontes'" .

“Essa tendência pode ser particularmente prejudicial à medida que os modelos se tornam cada vez mais convincentes e confiáveis, levando os usuários a confiar demais neles”, esclareceu a empresanetbet app downloadum documento anexado ao lançamentonetbet app downloadsua nova versão do chatbot.

Os usuários não devem confiar cegamente nas suas respostas, especialmentenetbet app downloadáreas que envolvem aspectos importantesnetbet app downloadsuas vidas, como aconselhamento médico ou jurídico.

A OpenAI observa que trabalhounetbet app download"uma variedadenetbet app downloadmétodos" para evitar que "alucinações" sejam dadasnetbet app downloadrespostas aos usuários, incluindo avaliaçõesnetbet app downloadpessoas reais para evitar dados incorretos, preconceito racial ounetbet app downloadgênero, ou disseminaçãonetbet app downloadinformações falsas.