Como funciona o LaMDA, cérebro artificial do Google 'acusado' por engenheiroganha apostater consciência própria:ganha aposta

Se nos lembrarmos dos antigos filmesganha apostaficção científica, poderemos imaginar LaMDA como um robô que assume a forma humana, abre os olhos, ganha consciência e fala. Ou como HAL-9000, o supercomputador do filme 2001: Uma Odisseia no Espaço — que,ganha apostauma paródiaganha apostaOs Simpsons, ganha a vozganha apostaPierce Brosnan no originalganha apostainglês, apaixona-se por Marge e quer matar Homer.

Mas a realidade é um pouco mais complexa. O LaMDA é um cérebro artificial e está abrigado na nuvem. Sua alimentação é composta por milhõesganha apostatextos e ele próprio faz seu treinamento. Mas, por outro lado, age como um papagaio.

Muito complicado? Vamos por partes, para entender melhor.

Supercérebro

O LaMDA (siglaganha apostainglês para Modeloganha apostaLinguagem para Aplicativosganha apostaDiálogo) foi projetado pelo Googleganha aposta2017. Sua base é um transformer, ou seja, um emaranhadoganha apostaredes neuronais artificiais profundas.

"Essa rede neuronal treina a si própria com grandes quantidadesganha apostatexto. Mas o aprendizado tem um objetivo, que é apresentado na formaganha apostaum jogo. Ela tem uma frase completa, mas falta uma palavra, e o sistema precisa adivinhá-la", explica Julio Gonzalo Arroyo, professor da Uned (Universidade Nacionalganha apostaEducação à Distância), na Espanha, e principal pesquisador do departamentoganha apostaprocessamentoganha apostalinguagem natural e recuperaçãoganha apostainformações.

O sistema joga consigo mesmo. Ele coloca palavras por tentativa e erro e, quando erra, age como se fosse um cadernoganha apostaatividades infantis — olha as últimas páginas, vê a resposta correta e assim vai corrigindo e refinando os parâmetros.

E ele também "identifica o significadoganha apostacada palavra e observa as outras palavrasganha apostatorno dela", segundo Gonzalo Arroyo. Assim, ele se torna especialistaganha apostaprever padrões e palavras. É um processo similar à previsãoganha apostatexto dos telefones celulares, mas elevado à enésima potência, com uma memória muito maior.

Respostasganha apostaqualidade, específicas e com interesse

Mas o LaMDA também cria respostas fluidas e espontâneas — e, segundo o Google, com capacidadeganha apostarecriar o dinamismo e reconhecer as nuances da conversa humana. Em resumo: que não pareçam ter sido criadas por um robô.

Essa fluidez é um dos objetivos do Google, segundo indica seu blogganha apostatecnologia. E eles afirmam que conseguem atingir esse objetivo, assegurando que as respostas sejamganha apostaqualidade, específicas e que demonstrem interesse.

Para que tenham qualidade, as respostas precisam fazer sentido. Se eu disser ao LaMDA, por exemplo, "comecei a tocar guitarra", ele deve responder algo relacionado à minha informação, não qualquer coisa sem sentido.

Para que o segundo objetivo seja cumprido (a resposta específica), o LaMDA não deveria responder com "muito bem", mas sim algo mais específico, como: "qual marcaganha apostaguitarra você prefere, Gibson ou Fender?"

E, para que o sistema forneça respostas que demonstrem interesse e perspicácia, ele deve atingir um nível mais elevado. Por exemplo: "a Fender Stratocaster é uma boa guitarra, mas a Red Specialganha apostaBrian May é única".

O segredo para responder com esse nívelganha apostadetalhamento é o autotreinamento. "Depoisganha apostaler bilhõesganha apostapalavras, [o sistema] tem uma capacidade extraordináriaganha apostaintuir quais são as palavras mais adequadasganha apostacada contexto."

Para os especialistasganha apostainteligência artificial, transformers como o LaMDA representam um desafio porque "permitem processamento [de informações ou textos] muito eficiente e produziram uma autêntica revolução no campo do processamento da linguagem natural".

Segurança e tendência

Outro objetivo do treinamento do LaMDA é não criar "conteúdo violento ou desumano, não promover calúnias nem discursosganha apostaódio contra gruposganha apostapessoas e não conter blasfêmias", segundo o blogganha apostainteligência artificial (IA) do Google.

Também se deseja que as respostas sejam baseadasganha apostafatos e que haja fontes externas conhecidas.

"Com o LaMDA, estamos adotando um enfoque cuidadoso e ponderado para levar maisganha apostaconta preocupações válidas sobre imparcialidade e veracidade", afirma Brian Gabriel, porta-voz do Google.

Ele defende que o sistema já passou por 11 revisões diferentes dos Princípios da IA, "alémganha apostauma pesquisa rigorosa e testes baseadosganha apostamedidas fundamentaisganha apostaqualidade, segurança e da capacidade do sistemaganha apostaproduzir declarações baseadasganha apostafatos".

Mas como fazer com que um sistema como o LaMDA não seja tendencioso, nem apresente mensagensganha apostaódio? "O segredo é selecionar quais dados [quais fontesganha apostatexto] devem ser alimentados no sistema", afirma Gonzalo Arroyo.

Mas isso não é fácil. "A nossa formaganha apostacomunicação reflete nossas tendências e as máquinas aprendem isso. É difícil eliminá-las dos dadosganha apostatreinamento sem perder a representatividade", explica ele.

Ou seja, é possível que surjam tendências.

"Se você alimenta notícias sobre a rainha Letícia [da Espanha], todas comentando quais roupas ela usa, é possível que, quando alguém pergunte sobre ela ao sistema, ele repita esse padrão machista e fale das roupas e nãoganha apostaoutras coisas", destaca o professor.

Papagaio cantor

Em 1966, foi projetado um sistema chamado ELIZA que aplicava padrões muito simples para simular o diálogoganha apostauma psicoterapeuta.

"O sistema incentivava o paciente a contar mais, seja qual fosse o tema da conversa, e acionava padrões como 'se mencionar a palavra família, pergunte como é a relação comganha apostamãe'", conta Gonzalo.

Algumas pessoas chegaram a pensar que ELIZA realmente era uma terapeuta — até afirmavam que os havia ajudado. "Nós, seres humanos, somos enganados com relativa facilidade", afirma Gonzalo Arroyo.

Para ele, a afirmaçãoganha apostaLemoineganha apostaque o LaMDA ganhou consciênciaganha apostasi mesmo "é um exagero". Segundo o professor, declarações como aganha apostaLemoine não ajudam a manter um debate saudável sobre a inteligência artificial.

"Ouvir esse tipoganha apostabobagem não é benéfico. Corremos o riscoganha apostaque vire mania e as pessoas pensem que estamosganha apostamodo Matrix, com as máquinas prontas para acabar conosco. Isso é algo remoto, é utópico. Não acredito que ajude a ter uma conversa ponderada sobre os benefícios da inteligência artificial", segundo Gonzalo Arroyo.

Por mais que a conversa seja fluida,ganha apostaqualidade e específica, "não passaganha apostauma gigantesca fórmula que ajusta os parâmetros para prever melhor a palavra seguinte. Ele não tem a menor ideia do que está falando."

A resposta do Google é similar. "Esses sistemas imitam os tiposganha apostaintercâmbio encontradosganha apostamilhõesganha apostafrases e podem falar sobre qualquer tema fantástico. Se perguntarmos como é ser um dinossauro congelado, eles podem gerar textos sobre o derretimento, o rugido etc.", explica Gabriel, do Google.

As pesquisadoras norte-americanas Emily Bender e Timnit Gebru compararam esses sistemasganha apostacriaçãoganha apostalinguagem com "papagaios aleatórios", que repetem palavras ao acaso.

Por isso, como disseram os pesquisadores espanhóis Ariel Guersenvaig e Ramón Sangüesa, transformers como o LaMDA entendem tanto o que escrevem quanto um papagaio cantando.

- ganha aposta Este texto foi originalmente publicadoganha apostahttp://vesser.net/geral-61845144

ganha aposta Sabia que a BBC está também no Telegram? Inscreva-se no canal ganha aposta .

ganha aposta Já assistiu aos nossos novos vídeos no YouTube ganha aposta ? Inscreva-se no nosso canal!