Como balão dirigido por inteligência artificial surpreendeu criadores:bet 3665

Seus colegas assumiram manualmente o controle do sistema e o colocarambet 3665volta na rota.

Só mais tarde eles perceberam o que estava acontecendo. Inesperadamente, a inteligência artificial a bordo do balão havia aprendido a recriar uma antiga técnicabet 3665navegação desenvolvida por humanos há séculos, senão milharesbet 3665anos.

A técnica envolve conduzir a embarcaçãobet 3665ziguezague contra o vento,bet 3665modo que seja possível avançar mais ou menos na direção desejada.

Sob condições climáticas desfavoráveis, os balões autônomos aprenderam a se virar sozinhos. O fatobet 3665terem feito isso,bet 3665forma espontânea, surpreendeu a todos, inclusive aos pesquisadores que trabalhavam no projeto.

"Rapidamente percebemos que tinham sido mais espertos que a gente, quando o primeiro balão autorizado a executar totalmente essa técnica bateu um recordebet 3665tempobet 3665voobet 3665Porto Rico ao Peru", escreveu Candidobet 3665um blog sobre o projeto.

"Nunca me senti tão inteligente e tão burro ao mesmo tempo."

Este é exatamente o tipobet 3665coisa que pode acontecer quando a inteligência artificial é deixada àbet 3665própria sorte.

Diferentemente dos programasbet 3665computador tradicionais, as IAs são projetadas para explorar e desenvolver novas abordagens para tarefas sobre as quais seus engenheiros humanos não lhes falaram explicitamente.

Mas enquanto aprendem como fazer essas tarefas, as IAs às vezes apresentam uma abordagem tão inovadora que pode surpreender até mesmo as pessoas que trabalham com esses sistemas o tempo todo.

Isso pode ser algo bom, mas também pode tornar as coisas controladas por inteligência artificial perigosamente imprevisíveis — robôs e carros autônomos podem acabar tomando decisões que colocam os humanosbet 3665perigo.

Como é possível para um sistemabet 3665inteligência artificial "superar" seus mestres humanos? E será que poderíamos controlar as mentes das máquinasbet 3665alguma forma, para garantir que não aconteça nenhum desastre imprevisto?

Na comunidadebet 3665IA, há um casobet 3665criatividade que parece ser mais citado do que qualquer outro.

O momento que realmente empolgou as pessoas sobre o que a inteligência artificial pode fazer, diz Mark Riedl, do Institutobet 3665Tecnologia da Geórgia, nos EUA, foi quando o DeepMind, laboratóriobet 3665IA do Google, mostrou como um sistemabet 3665machine learning (aprendizagem automática) dominou o antigo jogobet 3665tabuleiro Go — e depois derrotou um dos melhores jogadores humanos do mundo.

"Isso acabou demonstrando que havia novas estratégias ou táticas para contra-atacar um jogador que ninguém realmente havia usado antes — ou pelo menos muitas pessoas não sabiam a respeito", explica Riedl.

E ainda assim, um inocente jogobet 3665Go desperta sentimentos diferentes entre as pessoas.

Riscos

Por um lado, o DeepMind descreveu orgulhosamente as maneiras pelas quais seu sistema, o AlphaGo, foi capazbet 3665"inovar" e revelar novas abordagens para um jogo que os humanos vêm jogando há milênios.

Por outro lado, alguns questionaram se uma inteligência artificial tão inovadora poderia um dia representar um sério risco para os humanos.

"É ridículo pensar que seremos capazesbet 3665prever ou gerenciar o pior comportamento das inteligências artificiais quando não podemos, na verdade, imaginar seu possível comportamento", escreveu Jonathan Tapson, da Universidadebet 3665Western Sydney, na Austrália, após a vitória histórica do AlphaGo.

É importante lembrar, diz Riedl, que as inteligências artificiais não pensam realmente como os humanos. Suas redes neurais são,bet 3665fato, vagamente inspiradasbet 3665cérebrosbet 3665animais, mas podem ser melhor descritas como "dispositivosbet 3665exploração".

Quando tentam resolver uma tarefa ou problema, elas não trazem consigo muitas, se é que alguma, ideia preconcebida sobre o mundobet 3665geral. Simplesmente tentam — às vezes, milhõesbet 3665vezes — encontrar uma solução.

"Nós, humanos, trazemos conosco muita bagagem mental, pensamos nas regras", explica Riedl.

"Os sistemasbet 3665inteligência artificial nem sequer entendem as regras, então eles mexem nas coisasbet 3665maneira muito aleatória."

Dessa forma, as IAs poderiam ser descritas como o equivalentebet 3665silíciobet 3665pessoas com Síndrome do Sábio (oubet 3665Savant), acrescenta Riedl, citando a condiçãobet 3665que um indivíduo tem uma deficiência mental grave, mas também possui uma habilidade extraordinária, geralmente relacionada à memória.

Uma maneira pela qual as IAs podem nos surpreender envolvebet 3665capacidadebet 3665lidar com problemas radicalmente diferentes, mas usando o mesmo sistema básico.

Recentemente, uma ferramenta de machine learning desenvolvida para gerar parágrafosbet 3665texto foi requisitada a executar uma função muito diferente: jogar uma partidabet 3665xadrez.

O sistemabet 3665questão se chama GPT-2 e foi criado pela OpenAI. Treinado por meiobet 3665milhõesbet 3665artigosbet 3665notícias online e páginas da web, o GPT-2 é capazbet 3665prever a próxima palavrabet 3665uma frase com base nas palavras anteriores.

Uma vez que os movimentosbet 3665xadrez podem ser representadosbet 3665caracteres alfanuméricos, "Be5" para mover um bispo, por exemplo, o desenvolvedor Shawn Presser pensou que se ele treinasse o algoritmo por meiobet 3665registrosbet 3665partidasbet 3665xadrez, a ferramenta poderia aprender como jogar ao descobrir sequências desejáveisbet 3665movimentos.

Presser treinou o sistema com 2,4 milhõesbet 3665jogosbet 3665xadrez.

"Foi muito bacana ver o mecanismobet 3665xadrez ganhando vida", diz ele.

"Eu não tinha certeza se iria funcionar."

Mas deu certo. Não é tão bom quanto computadores especialmente projetados para xadrez — mas é capazbet 3665jogar partidas difíceis com sucesso.

Segundo Presser, o experimento mostra que o sistema GPT-2 tem muitos recursos inexplorados. Um "sábio" com dom para o xadrez.

Uma versão posterior do mesmo software surpreendeu os web designers quando um desenvolvedor o treinou brevemente para produzir códigos para exibir itensbet 3665uma página, como textos e botões.

A inteligência artificial gerou o código apropriado, embora tudo o que tinha para seguir adiante eram descrições simples como "textobet 3665vermelho que diz 'eu te amo' e um botão com 'ok' nele".

Claramente, ela adquiriu a essência básicabet 3665web design, mas após um treinamento surpreendentemente curto.

Uma áreabet 3665que as IAs há muito tempo impressionam é nabet 3665videogames.

Há inúmeros casos na comunidadebet 3665inteligência artificial sobre coisas surpreendentes que os algoritmos têm feitobet 3665ambientes virtuais.

Os algoritmos costumam ser testados e aperfeiçoados, para ver o quão capazes eles realmente são,bet 3665espaços semelhantes aosbet 3665videogames.

Em 2019, a OpenAI ganhou as manchetes com um vídeo sobre um jogobet 3665pique-esconde jogado por personagens controlados por machine learning.

Para a surpresa dos pesquisadores, aqueles que estavam "procurando" acabaram aprendendo que podiam pularbet 3665cima dos itens e "surfá-los" para ter acesso aos recintos onde havia personagens escondidos. Em outras palavras, aprenderam a burlar as regras do jogo a seu favor.

Uma estratégiabet 3665tentativa e erro pode resultarbet 3665todos os tiposbet 3665comportamentos interessantes. Mas nem sempre levam ao sucesso.

Dois anos atrás, Victoria Krakovna, pesquisadora da DeepMind, pediu aos leitoresbet 3665seu blog que compartilhassem históriasbet 3665que as IAs resolveram problemas complicados — masbet 3665maneiras imprevisivelmente inaceitáveis.

A longa listabet 3665exemplos que ela reuniu é fascinante. Entre eles, está um algoritmobet 3665jogo que aprendeu a se matar no final da primeira fase — para evitar morrer na segunda fase. O objetivobet 3665não morrer na segunda fase foi alcançado, mas nãobet 3665uma forma particularmente impressionante.

Outro algoritmo descobriu que poderia pularbet 3665um penhascobet 3665um jogo e levar um oponente consigo para a morte. Isso deu à IA pontos suficientes para ganhar uma vida extra e continuar repetindo essa tática suicidabet 3665um loop infinito.

O pesquisadorbet 3665inteligência artificialbet 3665videogame Julian Togelius, da Escolabet 3665Engenharia Tandon da Universidadebet 3665Nova York, nos EUA, pode explicar o que está acontecendo.

Ele diz que esses são exemplos clássicosbet 3665errosbet 3665"alocaçãobet 3665recompensa". Quando uma inteligência artificial é solicitada a realizar algo, ela pode descobrir métodos estranhos e inesperadosbet 3665atingir seu objetivo, onde o fim sempre justifica os meios.

Nós, humanos, raramente adotamos tal postura. Os meios e as regras que preveem como devemos jogar são importantes.

Togelius e seus colegas descobriram que esse viés voltado a objetivos pode ser expostobet 3665sistemasbet 3665inteligência artificial quando eles são colocados à provabet 3665condições especiais.

Em experimentos recentes,bet 3665equipe descobriu que uma IA solicitada a investir dinheirobet 3665um banco, correria para um canto próximo do saguão do banco virtual e esperaria para receber um retorno sobre o investimento.

Togelius diz que o algoritmo aprendeu a associar correr para o canto com a obtençãobet 3665uma recompensa financeira, embora não houvesse nenhuma relação real entre seu movimento e o quanto era pago.

Isso, segundo ele, é mais ou menos como se a inteligência artificial desenvolvesse uma superstição: "Você recebeu uma recompensa ou punição por algo — mas por que você recebeu?"

Essa é uma das armadilhas do "aprendizado por reforço",bet 3665que uma inteligência artificial acaba planejando uma estratégia equivocada com base no que encontrabet 3665seu ambiente.

A inteligência artificial não sabe por que teve sucesso, ela só pode basear suas açõesbet 3665associações aprendidas. Um pouco como as primeiras culturas humanas que começaram a associar rituais a mudanças no clima, por exemplo. Ou os pombos.

Em 1948, um psicólogo americano publicou um artigo descrevendo um experimento incomumbet 3665que colocava pombosbet 3665gaiolas e os recompensava com comidabet 3665forma intermitente.

Os pombos começaram a associar a comida a o que quer que estivessem fazendo na ocasião — seja batendo as asas ou executando movimentos semelhantes a uma dança. Eles então repetiam esses comportamentos, aparentemente na expectativabet 3665que viria uma recompensa a seguir.

Há uma grande diferença entre as IAs dos jogos testados por Togelius e os animais vivos usados ​​pelo psicólogo, mas Togelius sugere que o mesmo fenômeno parece estarbet 3665ação: a recompensa se torna erroneamente associada a um comportamento particular.

Embora os pesquisadoresbet 3665inteligência artificial possam se surpreender com os caminhos trilhados pelos sistemasbet 3665machine learning, isso não significa necessariamente que tenham admiração por eles.

"Nunca tive a sensaçãobet 3665que esses agentes pensem por si só", afirma Raia Hadsell, do DeepMind.

Hadsell fez experiências com muitas IAs que encontraram soluções interessantes e inovadoras para problemas não previstos por ela ou seus colegas.

Ela destaca que é exatamente por isso que os pesquisadores procuram aperfeiçoar as IAsbet 3665primeiro lugar — para que possam alcançar coisas que os humanos não conseguem por conta própria.

E ela argumenta que os produtos que usam inteligência artificial, como carros autônomos, podem ser rigorosamente testados para garantir que qualquer imprevisibilidade esteja dentrobet 3665certos limites aceitáveis.

"Você pode dar garantias razoáveis ​​sobre o comportamento com basebet 3665evidências empíricas", diz ela.

O tempo dirá se todas as empresas que vendem produtos construídos com inteligência artificial são escrupulosas nesse aspecto.

Mas, ao mesmo tempo, é importante observar que as IAs que demonstram comportamentos inesperados não estãobet 3665forma alguma confinadas a ambientesbet 3665pesquisa. Elas já estão atuandobet 3665produtos comerciais.

No ano passado, um braço robótico que trabalhavabet 3665uma fábricabet 3665Berlim, desenvolvido pela empresa americana Covariant, apresentou maneiras inesperadasbet 3665classificar os itens à medida que eles passavambet 3665uma esteira rolante.

Apesarbet 3665não ter sido especialmente programada para isso, a inteligência artificial que controla o braço aprendeu a mirar no centro dos itensbet 3665embalagens transparentes para ajudar a garantir que os pegaria com sucesso todas as vezes.

Como esses objetos podem se confundir quando se sobrepõem, devido ao material transparente, mirar com menos precisão significa que o robô pode não conseguir pegar o item.

"Isso evita a sobreposiçãobet 3665objetos nos cantos e,bet 3665vez disso, mira na superfície mais fácilbet 3665agarrar", afirma Peter Chen, cofundador e presidente-executivo da Covariant.

"Isso realmente nos surpreendeu."

Em paralelo, Hadsell diz quebet 3665equipe testou recentemente um braço robótico que passa diferentes blocos por meiobet 3665orifíciosbet 3665formatos variados.

A mão do robô era bastante desajeitada, então a inteligência artificial que o controlava aprendeu que, pegando e soltando repetidamente o bloco, poderia colocá-lo na posição certa para então agarrá-lo e passá-lo facilmente pelo orifício apropriado —bet 3665vezbet 3665tentar manobrá-lo usando a garra.

Tudo isso ilustra uma questão levantada por Jeff Clune, da OpenAI, que recentemente colaborou com pesquisadores do mundo todo para coletar exemplosbet 3665IAs que desenvolveram soluções inteligentes para problemas.

Clune diz que a natureza exploratória da inteligência artificial ​​é fundamental para seu sucesso futuro.

"Conforme estamos ampliando esses sistemasbet 3665inteligência artificial, o que estamos vendo é que as coisas que eles fazembet 3665maneira criativa e impressionante não são mais curiosidades acadêmicas", afirma.

Como as IAs encontram formas melhoresbet 3665diagnosticar doenças ou entregar suprimentosbet 3665emergência, elas até salvam vidas graças àbet 3665capacidadebet 3665encontrar novas maneirasbet 3665resolver velhos problemas, acrescenta Clune.

Mas ele acredita que aqueles que desenvolvem tais sistemas precisam ser abertos e honestos sobrebet 3665natureza imprevisível, para ajudar a população a entender como a inteligência artificial funciona.

Afinal, é uma facabet 3665dois gumes — a promessa e a ameaça da inteligência artificial fazem parte do mesmo pacote. O que será que elas vão inventar a seguir?

bet 3665 Leia a versão original bet 3665 desta reportagem (em inglês) no site BBC Future bet 3665 .

bet 3665 Já assistiu aos nossos novos vídeos no YouTube bet 3665 ? Inscreva-se no nosso canal!