Inteligência artificial: Os 'eventos estranhos' que fizeram tecnologia pensar que tartaruga era uma arma:poker star para celular

Vendo coisas

Os sistemaspoker star para celularreconhecimento visual têm recebido especial atenção nesses casos. Pequenas alteraçõespoker star para celularimagens podem enganar as redes neurais - os algoritmospoker star para celularaprendizado da máquina que direcionam grande parte da tecnologia modernapoker star para celularIA. Esse tipopoker star para celularsistema já é usado, por exemplo, para marcar amigospoker star para celularfotos ou identificar objetos nas imagens do smartphone.

Com alterações leves na textura e na corpoker star para celularobjetos impressospoker star para celular3D, Athalye e colegas fizeram uma bolapoker star para celularbeisebol, por exemplo, ser classificada como um café expresso; e uma tartaruga, confundida com um rifle. Eles enganaram o computador com cercapoker star para celular200 outros objetos impressospoker star para celular3D. À medida que colocamos mais robôspoker star para celularcasa, drones no céu e veículos autônomos na rua, esse resultado se torna preocupante.

"No começo isso era apenas uma curiosidade", diz Athalye. "Agora, no entanto, enxergamos isso como um potencial problemapoker star para celularsegurança, já que os sistemas estão sendo cada vez mais implementados no mundo real."

Tome como exemplo os carros sem motorista que hoje passam por testes práticos: eles geralmente dependempoker star para celularsofisticadas e profundas redes neuraispoker star para celularaprendizagem para navegar e dizer-lhes o que fazer.

No entanto, os pesquisadores mostraram que, ao simplesmente colocar pequenos adesivospoker star para celularplacaspoker star para celularlimitepoker star para celularvelocidade, as redes neurais não conseguiram compreendê-las.

Ouvindo vozes

As redes neurais não são as únicas estruturaspoker star para celularaprendizadopoker star para celularmáquinapoker star para celularuso, e todas também parecem vulneráveis a esses eventos estranhos. E elas não estão limitadas a sistemaspoker star para celularreconhecimento apenas visual.

"Em todas as áreas, da classificaçãopoker star para celularimagens ao reconhecimento automáticopoker star para celularvoz e a tradução, as redes neurais podem classificar dados incorretamente", diz Nicholas Carlini, pesquisador do Google Brain, que desenvolve máquinas inteligentes.

Carlini mostrou como - com a adiçãopoker star para celularum poucopoker star para celularruídopoker star para celularfundo - uma voz que deveria ler: "Without the dataset the article is useless" foi lida como "Ok Google browse to evil dot com". E os erros não se limitam apenas à fala. Em outro exemplo, um trecho da Suíte Nº 1 para violoncelopoker star para celularBach foi transcrita como "a fala pode ser incorporada na música".

Para Carlini, tais exemplos contraditórios "provam conclusivamente que o aprendizadopoker star para celularmáquina ainda não atingiu a capacidade humana mesmopoker star para celulartarefas muito simples".

Sob a pele

Redes neurais se baseiam,poker star para celularforma superficial,poker star para celularcomo o cérebro processa a informação visual e aprende com ela. Imagine uma criança pequena aprendendo o que é um gato: à medida que se depara com mais dessas criaturas, ela começa a perceber os padrões - essa mancha chamada gato tem quatro patas, pelo macio, duas orelhas pontudas, olhos amendoados e um rabo comprido e macio.

Dentro do córtex visual da criança (a área do cérebro que processa a informação visual), há camadas sucessivaspoker star para celularneurônios que respondem a detalhes visuais, como linhas horizontais e verticais, permitindo que a criança construa uma imagem neural do mundo e aprenda com isso.

As redes neurais funcionampoker star para celularmaneira semelhante. Os dados fluem por meiopoker star para celularcamadaspoker star para celularneurônios artificiais até que - depoispoker star para celularserem treinadaspoker star para celularcentenas ou milharespoker star para celularexemplos da mesma coisa (geralmente rotuladas por um humano) - a rede comece a identificar padrões do que está sendo visualizado. O mais sofisticado desses sistemas emprega o "aprendizado profundo" (deep learning), o que significa que eles têm mais camadas.

No entanto, embora os cientistas da computação entendam os detalhes básicospoker star para celularcomo as redes neurais funcionam, eles não sabem exatamente o que está acontecendo quando elas processam os dados. "Atualmente, não os entendemos bem o suficiente para, por exemplo, explicar por que existe o fenômenopoker star para celularexemplos contraditórios e saber como corrigi-lo", diz Athalye.

Parte do problema pode estar relacionada à natureza das tarefas que as tecnologias existentes foram projetadas para resolver: distinguir entre imagenspoker star para celularcães e gatos, por exemplo. Para fazer isso, a tecnologia processa vários exemplospoker star para celularcães e gatos, até que tenha dados suficientes para diferenciá-los.

"O objetivo principalpoker star para celularnossas estruturaspoker star para celularaprendizadopoker star para celularmáquina era obter um desempenhopoker star para celularmédia bom", diz Aleksander Madry, outro cientista da computação do MIT, que estuda a confiabilidade e a segurança das estruturaspoker star para celularaprendizadopoker star para celularmáquina. "Quando você treina o programa para ser apenas bom, sempre haverá imagens que vão confundi-lo".

Uma solução pode ser treinar redes neurais com exemplos mais desafiadores do que os atuais. Isso poderia fortalecê-los contra os pontos fora da curva.

"Definitivamente, é um passo na direção certa", diz Madry. Mas, mesmo que essa abordagem torne as estruturas mais robustas, ela provavelmente tem limites, pois há várias maneiraspoker star para celularse modificar a aparênciapoker star para celularuma imagem ou um objeto para gerar confusão.

Um classificadorpoker star para celularimagens verdadeiramente robusto replicaria o que a "semelhança" significa para um humano: ele entenderia que o rabiscopoker star para celularum gato feito por uma criança representa a mesma coisa que uma fotopoker star para celularum gato ou um gatopoker star para celularmovimento na vida real. Por mais impressionantes que sejam as redes neurais profundaspoker star para celularaprendizado, elas ainda não são páreo para o cérebro humano quando se tratapoker star para celularclassificar objetos, entender seu ambiente ou lidar com o inesperado.

Se quisermos desenvolver máquinas realmente inteligentes que possam funcionarpoker star para celularcenários do mundo real, talvez devamos voltar ao cérebro humano para entender melhor como ele resolve esses problemas.

Problema vinculativo

Embora as redes neurais tenham sido inspiradas pelo córtex visual humano, notamos cada vez mais que essa semelhança é apenas superficial. A principal diferença é que, alémpoker star para celularreconhecer atributos visuais como linhas ou objetos, nosso cérebro também codifica as relações entre esses atributos - portanto, a linha faz parte do objeto. Isso nos permite atribuir significado aos padrões que vemos.

"Quando olhamos para um gato, vemos todas as características que formam os gatos e como elas se relacionam umas com as outras", diz Simon Stringer, da Fundaçãopoker star para celularOxford para a Neurociência Teorética e a Inteligência Artificial. "Essa informaçãopoker star para celular'vinculação' é o que garante nossa capacidadepoker star para celularcompreender o mundo e nossa inteligência geral".

Essa informação crítica se perde na atual geraçãopoker star para celularredes neurais artificiais.

"Se você não solucionou essa vinculação, você pode saber quepoker star para celularalgum lugar da cena há um gato, mas não sabe onde ele está e não sabe quais características na cena fazem parte daquele gato", explica Stringer.

Ao tentar manter as coisas simples, os engenheiros responsáveis pelas estruturas neurais artificiais ignoraram várias propriedades dos neurônios reais - cuja importância está começando a ficar clara.

"Os neurônios das redes artificiais são exatamente iguais, mas a variedade morfológicapoker star para celularneurônios no cérebro sugere que isso não é irrelevante", diz Jeffrey Bowers, neurocientista da Universidadepoker star para celularBristol, que investiga quais aspectos da função cerebral não estão sendo capturados pelas redes neurais.

Seu laboratório desenvolve simulaçõespoker star para celularcomputador do cérebro humano para entender como ele funciona. Recentemente, eles incorporaram informações do timing e da organização dos neurônios reais, e treinaram o sistema com uma sériepoker star para celularimagens. Com isso, já perceberam uma mudança fundamental na forma como suas simulações processavam informações.

Em vezpoker star para celulartodos os neurônios dispararem ao mesmo tempo, eles começaram a notar padrões mais complexospoker star para celularatividade. Por exemplo, um subgrupopoker star para celularneurônios artificiais parecia agir como guardiões: só disparariam se os sinais visuais que recebessem chegassem ao mesmo tempo.

Stringer acredita que os "neurôniospoker star para celularvinculação" agem como uma certidãopoker star para celularcasamento: eles formalizam as relações entre os neurônios e fornecem um meiopoker star para celularchecar se dois sinais que parecem conectados realmente o estão. Dessa forma, o cérebro detecta se duas linhas diagonais e uma curva, por exemplo, representam uma característica como a orelhapoker star para celularum gato ou algo totalmente sem relação.

Redes híbridas

A equipepoker star para celularStringer busca evidênciaspoker star para celulartais neurôniospoker star para celularcérebros humanos reais. E também vem desenvolvendo redes neurais "híbridas", que incorporem as novas informações para ver se elas produzem uma forma mais robustapoker star para celularaprendizadopoker star para celularmáquina. Uma coisa que a equipepoker star para celularStringer testará é se as redes saberiam,poker star para celularforma confiável, se uma pessoa idosa está caindo, simplesmente sentando-se ou colocando as compras no chãopoker star para celularcasa.

"Esse ainda é um problema muito difícil para os algoritmospoker star para celularvisão artificial, enquanto que o cérebro humano pode resolver isso sem esforço", diz Stringer.

Ele também contribui com a pesquisa do Laboratóriopoker star para celularCiência e Tecnologiapoker star para celularDefesapoker star para celularPorton Down,poker star para celularWiltshire, Inglaterra, que desenvolve uma versão ampliadapoker star para celularsua estrutura neural para a área militar, como localizar tanques inimigospoker star para celularcâmeras inteligentes instaladaspoker star para celulardrones autônomos.

O objetivopoker star para celularStringer é,poker star para celular20 anos, ter garantido uma inteligência artificial no mesmo nível que apoker star para celularratos. E ele reconhece que o desenvolvimentopoker star para celularuma inteligência no nível humano pode levar uma vida inteira - talvez até mais.

Madry concorda que essa abordagem inspirada na neurociência é interessante para resolver os problemas com os atuais algoritmospoker star para celularaprendizadopoker star para celularmáquina. "Está ficando cada vez mais claro que a maneira como o cérebro funciona é bem diferentepoker star para celularcomo nossos modelos existentespoker star para celularaprendizagem profunda funcionam", afirma.

"Então, isso pode acabar tomando um caminho completamente diferente. É difícil dizer o quão viável é e qual é o prazo necessário para alcançar o sucesso nesse caso", acrescenta.

Enquanto isso, talvez precisemos evitar confiar demais nos robôs, carros e programas alimentados por inteligência artificial aos quais estaremos cada vez mais expostos. Nunca sabe se é uma alucinação.

poker star para celular Leia a versão original desta reportagem (em inglês poker star para celular ) no site BBC Future.

poker star para celular Já assistiu aos nossos novos vídeos no YouTube poker star para celular ? Inscreva-se no nosso canal!