ChatGPT se recusa a escrever nomes bem específicos

Usuários do ChatGPT descobriram que o chatbot se recusa a escrever “David Mayer”. Ao tentar dar uma resposta com o nome, uma mensagem de alerta aparece, dizendo que a inteligência artificial foi incapaz de gerar o texto. E o tal de Mayer não é o único desta lista.

Posteriormente, os usuários descobriram que o mesmo comportamento se repete quando o ChatGPT precisaria escrever Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber e Guido Scorza, de acordo com o TechCrunch. A publicação nota que a lista pode ser ainda maior.

Quem são estas pessoas?

A OpenAI, responsável pelo desenvolvimento da IA e por manter o serviço no ar, não respondeu a questionamentos do TechCrunch e do The Independent.

O TechCrunch e o 404 Media têm possíveis motivos para alguns nomes estarem nesta lista:

• Brian Hood é prefeito de uma cidade na Austrália e foi falsamente apontado pelo ChatGPT como autor de um crime cometido há décadas (Hood, na verdade, foi quem denunciou o crime).
• David Faber é repórter veterano da CNBC.
• Jonathan Turley é advogado e comentarista da Fox News. O ChatGPT também disse que ele havia sido denunciado por assédio sexual, o que não é verdade: Turley não participou da viagem e não era professor da faculdade mencionadas pelo robô.
• Jonathan Zittrain é professor de direito. Ele já escreveu várias vezes sobre direito ao esquecimento e também defendeu a necessidade de controlar agentes de inteligência artificial.
• Guido Scorza é membro da autoridade de proteção de dados da Itália.

Por outro lado, o TechCrunch considera que não há nenhum David Mayer tão conhecido ou proeminente nestas áreas. O mais próximo disso é um professor de literatura já falecido, que enfrentou diversos problemas porque um criminoso procurado usou David Mayer como pseudônimo.

Já o Independent menciona David Mayer de Rothschild, ambientalista, aventureiro e herdeiro da família Rothschild. Este David Mayer entrou com um pedido na União Europeia para ter seu nome retirado de todos os mecanismos de pesquisa na internet. No entanto, Google e concorrentes ainda mostram quem ele é.

Por que o ChatGPT não escreve estes nomes?

Sem uma resposta oficial da OpenAI, é difícil determinar o que pode ter levado a evitar que estes nomes sejam escritos pelo ChatGPT. Uma hipótese é que a empresa tenha uma lista de pessoas que não devem ser mencionadas, seja por problemas anteriores ou possibilidade de novas controvérsias.

O 404 Media também considerou que a restrição pode estar relacionada ao processo movido pelo jornal The New York Times contra a OpenAI. Zittrain e Turley tiveram seus trabalhos citados na ação. No entanto, o 404 repetiu o teste com outros autores que servem para embasar o processo, mas o ChatGPT escreveu os nomes deles, sem problemas. Portanto, não deve ser este o motivo

Nos comentários do 404 Media, um leitor notou que aplicativos que usam a API da OpenAI não têm erros ao escrever os nomes citados. Isso reforça a tese de que a restrição é exclusiva da interface do ChatGPT.

Mesmo assim, não dá para confirmar nenhuma destas informações. A resposta pode ser muito simples: um problema meramente técnico, como um erro de sintaxe ou uma alucinação, algo bastante comum na IA generativa.

Com informações: TechCrunch, The Independent, 404 Media

Continue lendo