Inteligência artificial sugere 40 mil armas químicas em seis horas

Seis horas. Esse foi o tempo que uma inteligência artificial (IA) de desenvolvimento de drogas levou para criar virtualmente 40 mil moléculas potencialmente letais. Calma, nada está sendo produzido, este é apenas o resultado de uma pesquisa. No entanto, é assustador saber como podemos abusar da tecnologia para desenvolver facilmente armas químicas poderosas.

• Como funciona a inteligência artificial
• 5 exemplos de inteligência artificial no dia a dia

Trata-se de um estudo realizado por cientistas e pesquisadores que apresentaram seus achados em uma conferência sobre o controle de armas biológicas. Um artigo também foi publicado neste mês de março na revista científica Nature Machine Intelligence.

Os autores da pesquisa reprogramaram a metodologia de uma IA voltada ao desenvolvimento de drogas úteis para a farmacologia, colocando-a para fazer justamente o oposto. Seria uma simulação do que, sob intenções hostis, a humanidade poderia realizar se assim quisesse. O resultado é verdadeiramente assustador.

Em apenas seis horas de processamento, a IA reprogramada conseguiu desenvolver virtualmente cerca de 40 mil moléculas tóxicas. Algumas delas, inclusive, se aproximaram ou até superaram a periculosidade do chamado VX, considerado o agente nervoso mais potente já criado como arma química.

IA poderia ser usada para guerra química

A princípio, nem mesmo os pesquisadores tinham ideia da grandiosidade de seu achado. O estudo só foi realizado após um convite da conferência de Convergência do Instituto Federal Suíço de Proteção Nuclear, Biológica e Química. A ideia da reunião é informar a comunidade em geral sobre novos desenvolvimentos com ferramentas que podem ter implicações para a Convenção de Armas Químicas e Biológicas.

Em entrevista ao The Verge, Fabio Urbina, o principal autor do artigo e também cientista sênior da Collaborations Pharmaceuticals, afirmou que eles pretendiam falar sobre aprendizado de máquina e como essa tecnologia pode ser mal usada nessa área. Ele explicou que, para isso, inverteram o tradicional método da IA que evitava a criação de qualquer componente potencialmente tóxico para outro que buscava justamente isso.

“Não tínhamos muita certeza do que iríamos conseguir. Nossos modelos generativos são tecnologias relativamente novas. Portanto, não os usamos muito. Mas a maior surpresa foi que muitos dos compostos gerados foram previstos para serem ainda mais tóxicos que o VX.”

O pesquisador complementou, dizendo que o resultado foi verdadeiramente preocupante porque o próprio VX já é letal em baixíssimas quantidades. No entanto, a recente tecnologia de IA usada na pesquisa revelou que podemos criar coisas ainda piores, e com muita facilidade.

“Para mim, a maior preocupação foi o quão fácil é fazer isso. Muitas das coisas que usamos estão disponíveis gratuitamente. Você pode baixar um conjunto de dados de toxicidade de qualquer lugar”, disse o cientista.

Urbina diz que, mesmo diante de tudo encontrado, não quer gerar pânico. Na realidade, a publicação da pesquisa foi pensada como um aviso à comunidade científica sobre os potenciais usos perigosos da inteligência artificial e do aprendizado de máquina na química.

“Não quero ser alarmista ao dizer que haverá alguma guerra química conduzida por IA. Não acho que seja o caso agora. Eu não acho que vai ser o caso tão cedo. Mas é algo que está começando a se tornar uma possibilidade.”

Com informações: The Verge

Receba mais sobre Inteligência Artificial na sua caixa de entrada

E-mail:

* ao se inscrever você aceita a nossa política de privacidade