OpenAI: descoberta de IA “super avançada” teria influenciado a demissão de CEO
Algoritmo Q-Star teria habilidade para resolver questões matemáticas; avanço aumenta as preocupações em torno da segurança das IAs
A OpenAI se tornou uma das principais empresas de inteligência artificial em menos de 10 anos. Então, a companhia responsável pelo ChatGPT teria desenvolvido uma IA avançada capaz de solucionar problemas matemáticos: o algoritmo Q-Star.
Conforme fontes da Reuters, pesquisadores da OpenAI teriam enviado uma carta ao conselho administrativo informando a descoberta. Contudo, o importante avanço poderia “representar uma ameaça para a humanidade”. Supostamente, o comunicado teria influenciado a demissão do CEO Sam Altman na semana passada.
A carta dos pesquisadores sobre o Q-Star revela que o algoritmo pode resolver questões matemáticas do ensino fundamental de forma autônoma. Entretanto, as informações não fazem parte do conjunto de dados usados para o treinamento da IA.
O projeto supostamente liderado pelo cientista-chefe Ilya Sutskever é visto como um avanço em direção à inteligência artificial geral (artificial general intelligence, ou apenas AGI). As habilidades matemáticas significam que a IA desenvolveu um poder de raciocínio parecido com o humano.
De acordo com as informações, a carta dos pesquisadores da OpenAI indica que o Q-Star poderia ser usado para acelerar avanços científicos. Ao mesmo tempo, a evolução do algoritmo levanta questões sobre a segurança em torno de uma IA tão avançada.
O conceito de AGI revela que a tecnologia pode ser capaz de se desenvolver, aprender e compreender de forma autônoma. Algo diferente de IAs “tradicionais” que necessitam ser treinadas por meio de um conjunto de dados para realizar tarefas.
O “anúncio” do Q-Star no Reddit
O site The Decoder cita que as primeiras informações sobre o avanço do Q-Star teriam sido vazadas pelo informante Jimmy Apples. Em setembro deste ano, ele usou as redes sociais para anunciar que a OpenAI conseguiu promover uma AGI internamente.
O CEO Sam Altman chegou a compartilhar a mensagem em um post no Reddit. Entretanto, ele editou a publicação dizendo que nenhum anúncio dessa magnitude seria feito em uma rede social e tudo não passava de um meme.
No último dia 16, o executivo voltou a dar uma declaração enigmática em um encontro com líderes mundiais em São Francisco, na Califórnia. Ele disse que a empresa deixou o “véu da ignorância para trás e encontrou a fronteira da descoberta à frente”.
Altman também disse que a companhia conseguiu realizar importantes avanços de IA “algumas semanas antes”. Uma informação que coincide com as publicações do informante. Curiosamente, a demissão do CEO ocorreu de forma repentina um dia após as falas enigmáticas e o suposto envio da carta aos membros do conselho.
Com informações: Reuters e The Decoder
