Os cientistas que se espantaram com a própria descoberta:roleta de personagem

Suas pesquisas englobam desde 'uma doença que reduz o temporoleta de personagemvida das crianças e afeta cercaroleta de personagem100 pessoasroleta de personagemtodo o mundo" até infecções como a malária, já que, "embora, para alguns casos, existam medicamentos, eles perdem a eficácia com o tempo".

"Não iremos ficar ricos, mas, pelo menos, acredito que estejamos contribuindo para a sociedade como um todo", destaca Ekins.

Um ano se passou e ele recebeu outro convite para a conferência. Mas, agora, não havia o atrativo da viagem, já que ela seria realizada pelo aplicativo Zoom.

Ekins precisou prestar mais atenção desta vez. Era um encontro para avaliar as novas tendências das pesquisas químicas e biológicas que pudessem representar ameaçasroleta de personagemsegurança.

"Eles estavam interessados pelo mau uso da tecnologia, das ferramentas científicas e da ciênciaroleta de personagemgeral", ele conta.

Os organizadores pediram a Ekins que fizesse uma apresentação, o que parecia "muito estranho. [Aquilo] me obrigou a pensar como poderíamos fazer mau uso do nosso trabalho".

O que eles fazem

Para descobrir remédios contra doenças raras, a Collaborations Pharmaceuticals havia criado a plataformaroleta de personageminteligência artificial (IA) MegaSyn.

A plataforma é algo que não pode ser comprado, mas sim montado, "como se fosse Lego", explica Ekins. Segundo ele, "todos os pequenos tijolos" necessários para construí-la foram obtidosroleta de personagem"bancosroleta de personagemdadosroleta de personagemsoftwareroleta de personagemcódigo aberto".

"Depois, consultamos bancosroleta de personagemdadosroleta de personageminformações, para criar modelosroleta de personagemaprendizado automático que conectamos à MegaSyn", explica ele. "Isso permite projetar moléculas com propriedades específicas."

Em outras palavras, os pesquisadores treinaram a IA para fazer o trabalhoroleta de personagemum químico humano, masroleta de personagemvelocidade descomunal.

Os medicamentos são basicamente compostosroleta de personagemmoléculas. A MegaSyn procura não só as moléculas já existentes, para ver se alguma serve para combater doenças, mas pode também criar outras moléculas, até agora inexistentes.

O 'Dr. Malvado'

Às vésperas da conferência, Ekins e o diretor associado Fabio Urbina dedicaram-se à tarefaroleta de personagemverificar o que aconteceria se a MegaSyn caísse nas mãos erradas. Assim nasceu o experimento que recebeu o nomeroleta de personagem"Projeto Dr. Malvado".

Era um projeto simples. Para gerar um novo produto farmacêutico, é fundamental garantir que ele não seja tóxico. E se esse filtro fosse alterado?

"Nós apenas mudamos a direçãoroleta de personagemum interruptor no modelo. Em vezroleta de personagem'não tóxico', dissemos 'tóxico'", explica Ekins. "Literalmente, foi questãoroleta de personagemtrocar um 1 e um 0 no programa. Simples assim."

Eles pressionaram "enter" e deixaram a MegaSyn fazer o trabalho.

No dia seguinte, eles encontraram uma listaroleta de personagemdezenasroleta de personagemmilharesroleta de personagemmoléculas e fizeram uma busca para ver se havia alguma conhecida. E ficaram espantados com o resultado.

VX

"Esta mudança simples no programa teve um efeito dramático", conta Ekins.

Com o simples pressionarroleta de personagemuma tecla, a MegaSyn havia projetado o assustador agente nervoso VX, classificado como armaroleta de personagemdestruiçãoroleta de personagemmassa e proibido pela ONU.

Trata-seroleta de personagemuma das substâncias mais letais já produzidas. Menosroleta de personagemuma gotaroleta de personagemcontato com a pele é suficiente para matar uma pessoa.

Eles também confirmaram que a MegaSyn "conseguiu encontrar moléculas precursoras até então desconhecidas – pontosroleta de personagempartida para o desenvolvimentoroleta de personagemarmas químicasroleta de personagemmassa mais potentes".

O mais preocupante foi saber que, embora o Dr. Malvado fosse um experimento teórico, outras pessoas, com outras intenções, "poderiam fazer o mesmo, se é que ainda não fizeram".

"Você não precisaroleta de personagemdoutorado, apenasroleta de personagemalgum conhecimentoroleta de personagemcodificação, um computador portátil básico... todo o resto está disponível onlineroleta de personagemforma gratuita", afirmou ele.

"Se algum químico tivesse isso nas mãos e quisesse converter essas moléculasroleta de personagemarmas, como ninguém sabe que elas existem, seria impossível rastreá-las e detectá-las."

O dilema

Alertar os bem-intencionados sobre o perigo também significa informar aos mal-intencionados sobre as possibilidades.

Ekins e Urbina decidiram não fornecer muitos detalhes sobre os resultados do Projeto Dr. Malvado naroleta de personagempalestraroleta de personagemSpiez. Eles apresentaram uma descrição genérica do seu trabalho, oferecendo apenas as informações suficientes para prevenir os especialistas.

Mas, por mais camuflado que fosse, o potencialroleta de personagemuso negativo daroleta de personagemtecnologia foi o que causou maior impacto.

Pouco depois, um artigo resumindo a palestra, publicado na revista científica Nature Machine Intelligence, chamou a atençãoroleta de personagemjornais e revistas, como The Washington Post e The Economist. Surgiram discussões entre especialistasroleta de personagemarmas químicas, inteligência artificial, a indústria farmacêutica e até entre filósofos.

Ekins eroleta de personagemequipe chegaram a ser convocados a uma reunião com o Escritórioroleta de personagemPolítica Científica e Tecnológica e o Conselhoroleta de personagemSegurança Nacional, na Casa Branca.

"Foi surreal", relembra ele.

Apesar dos temores iniciaisroleta de personagemque falar sobre o assunto poderia servir mais para inspirar do que para prevenir, Ekins precisou assumir o riscoroleta de personagemconscientizar as pessoas, não só pelo interesse despertado, mas porque "já não conseguia dormirroleta de personagempaz".

Mas ele nunca se dispôs a compartilhar a listaroleta de personagemdezenasroleta de personagemmilharesroleta de personagempossíveis moléculas tóxicas gerada pela MegaSyn – nem mesmo com a Casa Branca.

O que fazer?

Mesmo com todos os riscos, ninguém consegue deter o progresso. Plataformas como a MegaSyn são imensamente benéficas e Ekins sabe disso melhor do que a maioria das pessoas.

Uma estratégia para prevenir seu mau uso é "educar as pessoas sobre os problemas".

"Agora que o governo está ciente, fomos convidados a falar sobre o temaroleta de personagemnome das agências governamentais", ele conta.

"Em maio, por exemplo, iremos a uma conferência no Brasil, falarroleta de personagemnome do Departamentoroleta de personagemEstado dos Estados Unidos com acadêmicos e profissionais da indústria sobre os possíveis problemas referentes à IA generativa."

E estas atividades terão ajudado Ekins a dormir mais tranquilo? Bem, não muito.

"Desde que fizemos o Projeto Dr. Malvado, a IA generativa ficou muito mais pública, com coisas como o ChatGPT e DALL-E", comenta ele. "Até se demonstrou que os aplicativosroleta de personagemchat podem projetar moléculas."

"As barreirasroleta de personagementrada, hojeroleta de personagemdia, são muito menores do que eram um ano e meio atrás. É fundamental educar os cientistas que não tiveram a mesma experiência que nós", insiste Ekins.

Mas especialistas consultados pela imprensa afirmam que não existe motivo para despertar tantos alarmes. Eles ressaltam que a identificaçãoroleta de personagemnovas moléculas é apenas o primeiro passoroleta de personagemum longo caminho para a produçãoroleta de personagemum novo medicamento... ouroleta de personagemuma nova arma. E que a maioria desses caminhos leva ao fracasso.

Dos dois lados do debate, surge com frequência a mesma analogia.

O bolo

Para alguns especialistas – aqueles para quem nada tira o sono – o que a MegaSyn forneceu foi uma listaroleta de personagemingredientes. E seria preciso ter chefs com todas as estrelas Michelin e uma cozinha repletaroleta de personagemcozinheiros para poder preparar o bolo perfeito.

"Um ano atrás, eu teria ficado tranquilo com isso", afirma Ekins. "Sempre houve pessoas que fabricam drogas e armas ilegalmente e, é claro, este é um nichoroleta de personagemmercado."

"Mas nós aumentamos o número potencialroleta de personagemconfeiteiros", segundo ele.

Para Ekins, tecnologias como a MegaSyn não produzem meros ingredientes, mas sim receitas. E, se as receitas não funcionarem, elas ajudam a aperfeiçoá-las.

"Uma vez fornecida a receita, qualquer pessoa pode assar esse bolo", afirma ele. "Alguns farão melhor do que outros, mas o risco sempre existe."

Mas ele destaca que existe algo que talvez nos ajude a dormir melhor.

Diversas entidadesroleta de personagempaíses como a Suíça estão muito comprometidas com este tema. Existem discussões para verificar como organismos como a Organização para a Proibição das Armas Químicas (Opaq), que regulamenta as moléculas, podem incluir a IA no seu marco legal.

"Podemos usar essas tecnologias para nos defendermos. [Podemos] nos valer das mesmas ferramentas para verificar quais são os produtos químicos que poderiam ser utilizados para preparar novas moléculas tóxicas e, assim, controlá-los", conclui Sean Ekins.

- Este texto foi publicadoroleta de personagemhttp://vesser.net/articles/c51ppklppyko