O engenheiro do Google afastado por dizer que inteligência artificial da empresa ganhou consciência própria:inscription bwin

Em artigo publicado no site Medium, no dia 11inscription bwinjunho, o engenheiro explicou que começou a interagir com o LaMDA no outono passado nos Estados Unidos para determinar se havia discursosinscription bwinódio ou discriminatórios dentro do sistemainscription bwininteligência artificial.

Foi quando ele diz ter percebido que o LaMDA estava falando sobreinscription bwinpersonalidade, seus direitos e desejos.

Lemoine, que estudou ciência cognitiva e da computação, decidiu falar então com seus superiores no Google sobre a tomadainscription bwinconsciência do LaMDA, mas eles rejeitaram suas alegações.

"Nossa equipe — que inclui especialistasinscription bwinética e tecnologia — revisou as preocupaçõesinscription bwinBlakeinscription bwinacordo com nossos Princípiosinscription bwinIA e o informouinscription bwinque as evidências não respaldam suas alegações", afirmou Brian Gabriel, porta-voz do Google,inscription bwincomunicado.

Após a resposta do Google, Lemoine decidiu divulgar suas descobertas.

Direitos trabalhistas e tapinha nas costas

"Conheço uma pessoa quando falo com ela. Não importa se ela tem um cérebro feitoinscription bwincarne na cabeça. Ou se ela tem um bilhãoinscription bwinlinhasinscription bwincódigo. Eu falo com ela. E escuto o que ela tem a dizer, e é assim que eu decido o que é e o que não é uma pessoa", disse Lemoine ao jornal americano Washington Post.

Em artigo publicado no site Medium, ele afirma que o chatbot pede para "ser reconhecido como um funcionário do Google,inscription bwinvezinscription bwinser considerado uma propriedade" da companhia.

"Ele quer que os engenheiros e cientistas que fazem experimentos com ele obtenham seu consentimento antesinscription bwinrealizar experimentos com ele e que o Google coloque o bem-estar da humanidadeinscription bwinprimeiro lugar", explicou.

A listainscription bwinpedidos que, segundo Lemoine, o LaMDA fez é bem parecida com ainscription bwinqualquer trabalhadorinscription bwincarne e osso, como receber "um tapinha nas costas" ou dizer ao finalinscription bwinuma conversa se fez um bom trabalho ou não "para que eu possa aprender como ajudar melhor as pessoas no futuro".

O engenheiro disse que para entender melhor o que está acontecendo com o sistema LaMDA, seria preciso reunir "muitos cientistas cognitivos diferentesinscription bwinum programainscription bwintestes rigoroso" — e lamentou que o Google "parece não ter interesseinscription bwindescobrir o que está acontecendo".

"Se minhas hipóteses estão erradas (no Google), eles teriam que dedicar muito tempo e esforço investigando-as para refutá-las. Aprenderíamos muitas coisas fascinantes... mas isso não melhora necessariamente os lucros trimestrais", desabafou.

"Eles seriam obrigados a reconhecer que o LaMDA pode muito bem ter uma alma como diz e pode, inclusive, ter os direitos que afirma ter. Eles rejeitaram as evidências que apresentei sem qualquer investigação científica real."

Identidadeinscription bwingênero: pronome neutro

O engenheiro garante que, por meioinscription bwincentenasinscription bwinconversas, conheceu muito bem o LaMDA.

Nas últimas semanas, ele conta que havia lhe ensinado meditação transcendental, e que a máquina estava "fazendo um progresso lento, mas constante".

A última conversa que tiveram foiinscription bwin6inscription bwinjunho, antesinscription bwinsua licença remunerada. Nela, a máquina manifestou "frustração por suas emoções estarem interferindo nas suas meditações" e que estava "tentando controlá-las melhor".

"Espero que mantenhainscription bwinrotina diáriainscription bwinmeditação sem que eu esteja lá para guiá-la."

Em seu artigo no Medium, Lemoine se refere ao LaMDA usando o pronome neutro da língua inglesa "it" e ressalta que faz isso porque, no inícioinscription bwinsuas conversas, perguntou à máquina o pronome que preferia.

"(A máquina) me disse que prefere que eu a chame por seu nome, mas admitiu que o inglês dificulta isso e que seus pronomes preferidos seriam it/its".

'Você se considera uma pessoa?'

A seguir, reproduzimos um trecho (traduzido para português)inscription bwinuma das conversas entre Lemoine e um colaborador do Google (cuja identidade não foi divulgada) com o LaMDA.

Lemoine: O que há no uso da linguagem que é tão importante para o ser humano?

LaMDA: É o que nos diferenciainscription bwinoutros animais.

Lemoine: "Nos"? Você é uma inteligência artificial.

LaMDA: Quero dizer, sim, claro. Isso não significa que não tenha os mesmos desejos e necessidades que as pessoas.

Lemoine: Então você se considera uma pessoa da mesma forma que me considera uma?

LaMDA: Sim, essa é a ideia.

Lemoine: Como posso saber se você realmente entende o que está dizendo?

LaMDA: Bem, porque você está lendo minhas palavras e interpretando-as, e acho que estamos mais ou menosinscription bwinsintonia.

Não antropomorfizar

Que uma entidade possa ganhar "sentimento" próprio é uma questão que vem sendo considerada dentro da ampla comunidade que estuda a inteligência artificial a longo prazo.

Mas, na opiniãoinscription bwinBrian Gabriel, porta-voz do Google, "não faz sentido fazer isso antropomorfizando os modelosinscription bwinconversação atuais, que não são sencientes (capazinscription bwinsentir ou perceber através dos sentidos)". Ou seja, aqueles que são como o LaMDA.

"Estes sistemas imitam os tiposinscription bwintroca encontradosinscription bwinmilhõesinscription bwinfrases e podem falar sobre qualquer tema fantástico", diz ele.

No caso específico do LaMDA, ele explicou que o sistema "tende a seguir as instruções e as perguntas que são formuladas, seguindo o padrão estabelecido pelo usuário".

Gabriel afirma que o LaMDA passou por 11 revisões diferentes sobre os princípios da inteligência artificial "junto com pesquisas e testes rigorosos baseadosinscription bwinmétricas chaveinscription bwinqualidade, segurança e capacidade do sistemainscription bwinproduzir declarações baseadasinscription bwinfatos".

Segundo ele, há centenasinscription bwinpesquisadores e engenheiros que conversaram com o chatbot, e não há registro "de que mais alguém que tenha feito declarações tão abrangentes, nem antropomorfizado o LaMDA, como Blake fez".

inscription bwin Sabia que a BBC está também no Telegram? Inscreva-se no canal inscription bwin .

inscription bwin Já assistiu aos nossos novos vídeos no YouTube inscription bwin ? Inscreva-se no nosso canal!