Stack Overflow proíbe respostas dadas por inteligência artificial do ChatGPT

ChatGPT escreve bem, mas pode dar respostas incorretas; para evitar conteúdo com esse problema, Stack Overflow baniu IA temporariamente

Emerson Alecrim
Por

Um dos assuntos da semana é o ChatGPT, chatbot que usa um mecanismo de inteligência artificial para escrever como um humano. Mas não demorou para a empolgação inicial virar desconfiança. Na plataforma Stack Overflow, os usuários foram proibidos de compartilhar respostas geradas pela ferramenta.

Stack Overflow (imagem: divulgação)
Stack Overflow (imagem: divulgação)

É um banimento temporário, que pode ser derrubado a qualquer momento. Mas existe boas chances de que a proibição se torne permanente. Os moderadores do Stack Overflow estudam o assunto para chegar a uma decisão. A comunidade poderá até ser consultada nesse processo.

Por que proibir o ChatGPT?

Você pode fazer uma pergunta ao ChatGPT ou pedir que ele explique um conceito, por exemplo. A novidade é capaz até de escrever código em várias linguagens de programação. Isso se deve, em grande parte, à base do ChatGPT, o modelo de inteligência artificial GPT-3.5.

Treinado com uma gigantesca quantidade de textos disponíveis na web, é o GPT-3.5 que permite ao ChatGPT dar explicações satisfatórias ou respostas convincentes até para perguntas subjetivas. Mas uma análise mais cuidadosa revela que muitos desses resultados são imprecisos ou incorretos.

É daí que vem a proibição. O Stack Overflow é uma plataforma de perguntas e respostas para profissionais de TI, desenvolvedores e afins. Os participantes ganham pontos quando têm suas perguntas ou respostas votadas pela comunidade. Com base nisso, muitos usuários poderiam recorrer ao ChatGPT para melhorar a sua reputação.

Isso seria um problema, pois a estrutura de texto montada pelo ChatGPT faz as respostas serem convincentes mesmo quando estão incorretas. Os administradores do Stack Overflow temem que a plataforma seja inundada com esse tipo de conteúdo, o que a faria deixar de ser confiável.

A própria OpenAI, organização por trás da iniciativa, alerta que o ChatGPT pode dar respostas incorretas. A proporção de erros da ferramenta ainda não é conhecida. Fala-se apenas que ela é baixa. Apesar disso, os administradores do Stack Overflow decidiram não arriscar. O ChatGPT foi banido da plataforma, pelo menos até que os efeitos de seu uso fiquem mais claros.

Resposta do ChatGPT em português (imagem: Emerson Alecrim/Tecnoblog)
Resposta do ChatGPT em português (imagem: Emerson Alecrim/Tecnoblog)

Decisão correta ou exagero?

Ainda que o banimento possa ser revogado, a decisão abre espaço para vários questionamentos.

Por exemplo: a inteligência artificial não poderia aumentar o engajamento na plataforma por gerar mais respostas? Será que a proibição é a típica tentativa de evitar que uma máquina substitua uma pessoa? Não seria o caso de haver um moderador humano para cada resposta do ChatGPT?

Dúvidas à parte, estou entre os que consideram a proibição temporária uma boa medida de cautela. O recurso é novo e suas implicações ainda não são totalmente compreendidas.

O fato é que o Stack Overflow tem o aspecto da confiabilidade como um de seus alicerces. Se algo pode abalar essa hegemonia, é prudente que uma intervenção seja aplicada para permitir que o assunto seja pelo menos estudado.

Por ora, o mérito do ChatGPT está em escrever bem. Talvez seja possível usá-lo como uma ferramenta de apoio, da mesma forma que usamos o Google para converter uma moeda, por exemplo. Mas, como oráculo, não. Ainda é cedo para isso.

Relacionados

Relacionados