OpenAI, dona do ChatGPT, cria ferramenta que “dedura” textos de IA
Entregando o veneno e a cura, empresa por trás do ChatGPT lança ferramenta que deve diminuir problemas de falsificação e uso indevido de IA nas escolas
A OpenAI, empresa que desenvolveu o ChatGPT, lançou uma ferramenta que é capaz de identificar se um texto foi produzido por inteligência artificial. A funcionalidade chega como uma resposta aos problemas trazidos pela popularidade crescente do ChatGPT. Há uma preocupação sobre o uso de IAs em produções escolares e acadêmicas.
Recentemente, o uso de IA para a geração de textos também causou problemas no site CNET, após uma notícia sobre investimento, escrita por uma inteligência artificial, errar sobre os lucros de um investimento. O site usava IAs sem destacar esse fato nos textos. Com uma ferramenta de identificação, será possível avaliar outros conteúdos publicados na internet.
OpenAI apresenta recurso que identifica textos de IA
Segundo a OpenAI, na parte de testes, a ferramenta foi capaz de identificar corretamente textos produzidos em 26% dos casos. Esses casos, chamados de verdadeiros-positivos, indicam que o texto é “provavelmente produzido por IA” — em nenhuma momento ela afirmará que o texto foi gerado por inteligência artificial.
Como destaca no seu site, a OpenAI diz que a ferramenta de identificação deve ser usada como um complemento a outros métodos de classificação de textos.
A funcionalidade lançada pela OpenAI, que a apresentou em seu site oficial, ainda tem que evoluir. A própria empresa afirma que ele não é confiável. Ela liberou o uso da ferramenta, mesmo que ainda em imperfeita, para receber feedbacks. O uso por terceiros auxiliará a OpenAI em seus planos de aprimorar a tecnologia de detecção de texto.
Desempenho do recurso varia para cada tipo de texto
Em seu comunicado à imprensa, a OpenAI explica que a ferramenta de identificação de texto apresenta um desempenho ruim na análise de textos com menos de mil caracteres. Porém, erros também acontecem com textos maiores que isso.
A empresa também sugere que o sistema seja usado somente com textos em inglês. Segundo a OpenAI, a ferramenta não funciona bem com textos em outras línguas.
Evolução da ferramenta é crucial para popularizar IA
O uso de tecnologias como o ChatGPT causa preocupação no meio educacional. Há risco de que alunos utilizem IA para gerar textos, redações e respostas para tarefas escolares, impactando no seu aprendizado.
Para evitar esses problemas e também auxiliar no combate a plágios, o uso de uma ferramenta de identificação de textos gerados por IAs é uma das opções esperados por acadêmicos e professores.
A OpenAI também destaca que uma funcionalidade de classificação de textos será útil para identificar ataques virtuais, como de bots propagandas falsas (em sentido de divulgação de ditaduras) e fake news.
E claro, saber se um site está usando IA para gerar notícias — e não sendo transparente sobre isso. Afinal, não é um problema usar inteligência artificial para construir textos bem hard news. O problema é não ser claro com o leitor.
