ChatGPT e outras IAs mentem que nem sentem — e a gente acredita

Respostas geradas por IAs passam tanta convicção que erros e dados falsos não são percebidos; textos produzidos por essas tecnologias já causaram problemas no CNET

Felipe Freitas
Por

O site CNET teve que se retratar em publicações sobre investimento pois a IA usada para gerar as notícias estava errando o resultado de cálculos — e o veículo também omitiu a informação de que estava gerando notícias através de uma IA. O problema não é só o erro, mas o texto soava convincente sobre o lucro.

Inteligência artificial (Imagem: Pixabay/Geralt)
Inteligência artificial (Imagem: Pixabay/Geralt)

Isso é um exemplo de como as inteligências artificiais que geram textos com base em perguntas ou “ordens” de humanos possuem um grave problema: a convicção com a qual produzem uma resposta. Cada vez mais popular, o assunto de IAs como o ChatGPT auxiliando em questões começa a trazer problemas por passarem respostas erradas mas com muita confiança sobre o assunto — ou apenas em um texto bem estruturado.

Lábia das IAs: corrija-me se for capaz

A “lábia” e a confiança no que se fala é um dos fatores usados por golpistas para aplicar seus crimes. Vide o caso de Frank Abagnale Júnior, cuja história inspirou o filme Prenda-me se For Capaz. Porém, uma IA (até onde sabemos) não tem a malícia de querer enganar alguém propositalmente. Parafraseando o Craque Daniel: a tecnologia de IA erra com convicção.

No caso da CNET, o texto explicava o cálculo de um investimento de 3% ao ano. No exemplo, a IA dizia que ao investir US$ 10.000, o lucro seria de US$ 10.300.

Na verdade, o lucro é de US$ 300.

Para ganhar US$ 10.300 no ano com um investimento de US$ 10.000, o juros deveria ser de 103%.

O erro é detectável por um leitor com conhecimento de finanças, mas quem não é muito fã de números pode sofrer com isso, deixando de fazer um investimento maior por ter confiado em um texto de IA que explicava errado — sem saber que o autor é um robô.

Aqui entramos em outro problema: o CNET não informava que estava usando IAs para alguns textos. O autor aparecia apenas como “Equipe de Finanças do CNET”. Agora, o site informa que o texto é produzido por um robô e revisado por um humano.

E esse não foi o único problema de uma IA errando com confiança. No tweet abaixo, o @FEhrsam comenta como o ChatGPT deu uma resposta mais precisa e “concisa” sobre o cálculo de ritmo de corrida. Porém, ele é corrigido por outro usuário explicando que o ChatGPT errou e que a conta certa é a do Google. Infelizmente, não temos mais o tweet original para ver qual era a conta.

Porém, testei o ChatGPT com uma regra de três composta. O problema, pego da Wikipédia em inglês, era o seguinte:

Se 6 pedreiros constroem 8 casas em 100 dias, 10 pedreiros constroem 20 casas em quantos dias na mesma “eficiência”? O resultado é 150 dias. Como eu pensei, o ChatGPT teria problemas com esse tipo de conta. Por algum motivo, ele até fez um raciocínio correto, mas ignorou um dos fatores na sua conta e deu como resultado 200 dias.

ChatGPT erra conta de regra de três (Imagem: Reprodução/Tecnoblog)
ChatGPT erra conta de regra de três (Imagem: Reprodução/Tecnoblog)

IAs no jornalismo podem ser úteis para textos mais “mecânicos”

O uso de inteligência artificial no jornalismo (no meu ver) não é prejudicial para a profissão, mas em alguns casos a “responsabilidade do erro” precisa ser de um humano — como no caso de textos sobre investimentos, onde você pode influenciar leitores a usarem seu próprio dinheiro de alguma maneira.

Em outros casos, a IA pode acabar facilitando a produção de um veículo de notícias. Um exemplo disso são em coberturas eleitorais. Nem toda redação de um jornal ou site terá o tempo livre para escrever o resultado de todas as eleições municipais.

Em 2020, o G1 usou uma IA para escrever as notícias sobre os resultados de todas as prefeituras. A tecnologia buscava os dados do site do TSE e era capaz de escrever um texto “mecanizado”, informando o vencedor, partido, porcentagem e o segundo colocado.

Com informações: Mashable e Futurism

Relacionados

Relacionados