Inteligência artificial: Os 'eventos estranhos' que fizeram tecnologia pensar que tartaruga era uma arma:fluminense x avaí palpite

Vendo coisas

Os sistemasfluminense x avaí palpitereconhecimento visual têm recebido especial atenção nesses casos. Pequenas alteraçõesfluminense x avaí palpiteimagens podem enganar as redes neurais - os algoritmosfluminense x avaí palpiteaprendizado da máquina que direcionam grande parte da tecnologia modernafluminense x avaí palpiteIA. Esse tipofluminense x avaí palpitesistema já é usado, por exemplo, para marcar amigosfluminense x avaí palpitefotos ou identificar objetos nas imagens do smartphone.

Com alterações leves na textura e na corfluminense x avaí palpiteobjetos impressosfluminense x avaí palpite3D, Athalye e colegas fizeram uma bolafluminense x avaí palpitebeisebol, por exemplo, ser classificada como um café expresso; e uma tartaruga, confundida com um rifle. Eles enganaram o computador com cercafluminense x avaí palpite200 outros objetos impressosfluminense x avaí palpite3D. À medida que colocamos mais robôsfluminense x avaí palpitecasa, drones no céu e veículos autônomos na rua, esse resultado se torna preocupante.

"No começo isso era apenas uma curiosidade", diz Athalye. "Agora, no entanto, enxergamos isso como um potencial problemafluminense x avaí palpitesegurança, já que os sistemas estão sendo cada vez mais implementados no mundo real."

Tome como exemplo os carros sem motorista que hoje passam por testes práticos: eles geralmente dependemfluminense x avaí palpitesofisticadas e profundas redes neuraisfluminense x avaí palpiteaprendizagem para navegar e dizer-lhes o que fazer.

No entanto, os pesquisadores mostraram que, ao simplesmente colocar pequenos adesivosfluminense x avaí palpiteplacasfluminense x avaí palpitelimitefluminense x avaí palpitevelocidade, as redes neurais não conseguiram compreendê-las.

Ouvindo vozes

As redes neurais não são as únicas estruturasfluminense x avaí palpiteaprendizadofluminense x avaí palpitemáquinafluminense x avaí palpiteuso, e todas também parecem vulneráveis a esses eventos estranhos. E elas não estão limitadas a sistemasfluminense x avaí palpitereconhecimento apenas visual.

"Em todas as áreas, da classificaçãofluminense x avaí palpiteimagens ao reconhecimento automáticofluminense x avaí palpitevoz e a tradução, as redes neurais podem classificar dados incorretamente", diz Nicholas Carlini, pesquisador do Google Brain, que desenvolve máquinas inteligentes.

Carlini mostrou como - com a adiçãofluminense x avaí palpiteum poucofluminense x avaí palpiteruídofluminense x avaí palpitefundo - uma voz que deveria ler: "Without the dataset the article is useless" foi lida como "Ok Google browse to evil dot com". E os erros não se limitam apenas à fala. Em outro exemplo, um trecho da Suíte Nº 1 para violoncelofluminense x avaí palpiteBach foi transcrita como "a fala pode ser incorporada na música".

Para Carlini, tais exemplos contraditórios "provam conclusivamente que o aprendizadofluminense x avaí palpitemáquina ainda não atingiu a capacidade humana mesmofluminense x avaí palpitetarefas muito simples".

Sob a pele

Redes neurais se baseiam,fluminense x avaí palpiteforma superficial,fluminense x avaí palpitecomo o cérebro processa a informação visual e aprende com ela. Imagine uma criança pequena aprendendo o que é um gato: à medida que se depara com mais dessas criaturas, ela começa a perceber os padrões - essa mancha chamada gato tem quatro patas, pelo macio, duas orelhas pontudas, olhos amendoados e um rabo comprido e macio.

Dentro do córtex visual da criança (a área do cérebro que processa a informação visual), há camadas sucessivasfluminense x avaí palpiteneurônios que respondem a detalhes visuais, como linhas horizontais e verticais, permitindo que a criança construa uma imagem neural do mundo e aprenda com isso.

As redes neurais funcionamfluminense x avaí palpitemaneira semelhante. Os dados fluem por meiofluminense x avaí palpitecamadasfluminense x avaí palpiteneurônios artificiais até que - depoisfluminense x avaí palpiteserem treinadasfluminense x avaí palpitecentenas ou milharesfluminense x avaí palpiteexemplos da mesma coisa (geralmente rotuladas por um humano) - a rede comece a identificar padrões do que está sendo visualizado. O mais sofisticado desses sistemas emprega o "aprendizado profundo" (deep learning), o que significa que eles têm mais camadas.

No entanto, embora os cientistas da computação entendam os detalhes básicosfluminense x avaí palpitecomo as redes neurais funcionam, eles não sabem exatamente o que está acontecendo quando elas processam os dados. "Atualmente, não os entendemos bem o suficiente para, por exemplo, explicar por que existe o fenômenofluminense x avaí palpiteexemplos contraditórios e saber como corrigi-lo", diz Athalye.

Parte do problema pode estar relacionada à natureza das tarefas que as tecnologias existentes foram projetadas para resolver: distinguir entre imagensfluminense x avaí palpitecães e gatos, por exemplo. Para fazer isso, a tecnologia processa vários exemplosfluminense x avaí palpitecães e gatos, até que tenha dados suficientes para diferenciá-los.

"O objetivo principalfluminense x avaí palpitenossas estruturasfluminense x avaí palpiteaprendizadofluminense x avaí palpitemáquina era obter um desempenhofluminense x avaí palpitemédia bom", diz Aleksander Madry, outro cientista da computação do MIT, que estuda a confiabilidade e a segurança das estruturasfluminense x avaí palpiteaprendizadofluminense x avaí palpitemáquina. "Quando você treina o programa para ser apenas bom, sempre haverá imagens que vão confundi-lo".

Uma solução pode ser treinar redes neurais com exemplos mais desafiadores do que os atuais. Isso poderia fortalecê-los contra os pontos fora da curva.

"Definitivamente, é um passo na direção certa", diz Madry. Mas, mesmo que essa abordagem torne as estruturas mais robustas, ela provavelmente tem limites, pois há várias maneirasfluminense x avaí palpitese modificar a aparênciafluminense x avaí palpiteuma imagem ou um objeto para gerar confusão.

Um classificadorfluminense x avaí palpiteimagens verdadeiramente robusto replicaria o que a "semelhança" significa para um humano: ele entenderia que o rabiscofluminense x avaí palpiteum gato feito por uma criança representa a mesma coisa que uma fotofluminense x avaí palpiteum gato ou um gatofluminense x avaí palpitemovimento na vida real. Por mais impressionantes que sejam as redes neurais profundasfluminense x avaí palpiteaprendizado, elas ainda não são páreo para o cérebro humano quando se tratafluminense x avaí palpiteclassificar objetos, entender seu ambiente ou lidar com o inesperado.

Se quisermos desenvolver máquinas realmente inteligentes que possam funcionarfluminense x avaí palpitecenários do mundo real, talvez devamos voltar ao cérebro humano para entender melhor como ele resolve esses problemas.

Problema vinculativo

Embora as redes neurais tenham sido inspiradas pelo córtex visual humano, notamos cada vez mais que essa semelhança é apenas superficial. A principal diferença é que, alémfluminense x avaí palpitereconhecer atributos visuais como linhas ou objetos, nosso cérebro também codifica as relações entre esses atributos - portanto, a linha faz parte do objeto. Isso nos permite atribuir significado aos padrões que vemos.

"Quando olhamos para um gato, vemos todas as características que formam os gatos e como elas se relacionam umas com as outras", diz Simon Stringer, da Fundaçãofluminense x avaí palpiteOxford para a Neurociência Teorética e a Inteligência Artificial. "Essa informaçãofluminense x avaí palpite'vinculação' é o que garante nossa capacidadefluminense x avaí palpitecompreender o mundo e nossa inteligência geral".

Essa informação crítica se perde na atual geraçãofluminense x avaí palpiteredes neurais artificiais.

"Se você não solucionou essa vinculação, você pode saber quefluminense x avaí palpitealgum lugar da cena há um gato, mas não sabe onde ele está e não sabe quais características na cena fazem parte daquele gato", explica Stringer.

Ao tentar manter as coisas simples, os engenheiros responsáveis pelas estruturas neurais artificiais ignoraram várias propriedades dos neurônios reais - cuja importância está começando a ficar clara.

"Os neurônios das redes artificiais são exatamente iguais, mas a variedade morfológicafluminense x avaí palpiteneurônios no cérebro sugere que isso não é irrelevante", diz Jeffrey Bowers, neurocientista da Universidadefluminense x avaí palpiteBristol, que investiga quais aspectos da função cerebral não estão sendo capturados pelas redes neurais.

Seu laboratório desenvolve simulaçõesfluminense x avaí palpitecomputador do cérebro humano para entender como ele funciona. Recentemente, eles incorporaram informações do timing e da organização dos neurônios reais, e treinaram o sistema com uma sériefluminense x avaí palpiteimagens. Com isso, já perceberam uma mudança fundamental na forma como suas simulações processavam informações.

Em vezfluminense x avaí palpitetodos os neurônios dispararem ao mesmo tempo, eles começaram a notar padrões mais complexosfluminense x avaí palpiteatividade. Por exemplo, um subgrupofluminense x avaí palpiteneurônios artificiais parecia agir como guardiões: só disparariam se os sinais visuais que recebessem chegassem ao mesmo tempo.

Stringer acredita que os "neurôniosfluminense x avaí palpitevinculação" agem como uma certidãofluminense x avaí palpitecasamento: eles formalizam as relações entre os neurônios e fornecem um meiofluminense x avaí palpitechecar se dois sinais que parecem conectados realmente o estão. Dessa forma, o cérebro detecta se duas linhas diagonais e uma curva, por exemplo, representam uma característica como a orelhafluminense x avaí palpiteum gato ou algo totalmente sem relação.

Redes híbridas

A equipefluminense x avaí palpiteStringer busca evidênciasfluminense x avaí palpitetais neurôniosfluminense x avaí palpitecérebros humanos reais. E também vem desenvolvendo redes neurais "híbridas", que incorporem as novas informações para ver se elas produzem uma forma mais robustafluminense x avaí palpiteaprendizadofluminense x avaí palpitemáquina. Uma coisa que a equipefluminense x avaí palpiteStringer testará é se as redes saberiam,fluminense x avaí palpiteforma confiável, se uma pessoa idosa está caindo, simplesmente sentando-se ou colocando as compras no chãofluminense x avaí palpitecasa.

"Esse ainda é um problema muito difícil para os algoritmosfluminense x avaí palpitevisão artificial, enquanto que o cérebro humano pode resolver isso sem esforço", diz Stringer.

Ele também contribui com a pesquisa do Laboratóriofluminense x avaí palpiteCiência e Tecnologiafluminense x avaí palpiteDefesafluminense x avaí palpitePorton Down,fluminense x avaí palpiteWiltshire, Inglaterra, que desenvolve uma versão ampliadafluminense x avaí palpitesua estrutura neural para a área militar, como localizar tanques inimigosfluminense x avaí palpitecâmeras inteligentes instaladasfluminense x avaí palpitedrones autônomos.

O objetivofluminense x avaí palpiteStringer é,fluminense x avaí palpite20 anos, ter garantido uma inteligência artificial no mesmo nível que afluminense x avaí palpiteratos. E ele reconhece que o desenvolvimentofluminense x avaí palpiteuma inteligência no nível humano pode levar uma vida inteira - talvez até mais.

Madry concorda que essa abordagem inspirada na neurociência é interessante para resolver os problemas com os atuais algoritmosfluminense x avaí palpiteaprendizadofluminense x avaí palpitemáquina. "Está ficando cada vez mais claro que a maneira como o cérebro funciona é bem diferentefluminense x avaí palpitecomo nossos modelos existentesfluminense x avaí palpiteaprendizagem profunda funcionam", afirma.

"Então, isso pode acabar tomando um caminho completamente diferente. É difícil dizer o quão viável é e qual é o prazo necessário para alcançar o sucesso nesse caso", acrescenta.

Enquanto isso, talvez precisemos evitar confiar demais nos robôs, carros e programas alimentados por inteligência artificial aos quais estaremos cada vez mais expostos. Nunca sabe se é uma alucinação.

fluminense x avaí palpite Leia a versão original desta reportagem (em inglês fluminense x avaí palpite ) no site BBC Future.

fluminense x avaí palpite Já assistiu aos nossos novos vídeos no YouTube fluminense x avaí palpite ? Inscreva-se no nosso canal!