Apple suspende serviço de alerta de notícias gerado por IA

A Apple suspendeu nesta quinta-feira (16/01) o recurso de geração de notícias da Apple Intelligence. A decisão foi motivada após diversos casos em que o recurso alucinava na criação de resumos de notícias. O propósito da ferramenta era ler notícias de diferentes fontes e entregar, notificando o usuário, um sumário dos acontecimentos que estavam em alta.

Em um dos casos dessa alucinação, a ferramenta disse que Luigi Mangione, o suposto assassino do CEO da UnitedHealthcare, se deu um tiro. Além do problema da notícia falsa (ou seria notícia alucinada?), alguns resumos foram publicados com o logo da BBC, dando a entender que o veículo era o autor da informação.

Por que a Apple suspendeu o resumo de notícias do Apple Intelligence?

A Apple tomou a decisão de suspender o recurso após vários casos em que a IA gerou notícias distorcidas, que carregavam indevidamente a marca de veículos de comunicação. Além da BBC, jornais como Sky News, New York Times e Washington Post tiveram seus logos associados às notícias geradas pela Apple Intelligence — o que prejudica a imagem das empresas.

Ao analisarmos as alucinações, parece que a IA da Apple sofre de um problema de Velha da Praça. Assim como a personagem do programa televisivo, a ferramenta da big tech não compreende o que realmente leu e solta uma mistura de fatos.

Por exemplo, é provável que o caso de Luigi Mangione envolva, na verdade, a notícia da sua transferência para outra prisão após as primeiras audiências — realizadas no dia 17 de dezembro —, com a fake news divulgada no dia 19 de dezembro.

Assim, a Apple Intelligence pode ter pegado a notícia de que ele havia atirado no CEO da UnitedHealthcare e, ao juntar com os outros elementos, como Mangione se declarando inocente, saiu o “shoot himself” — se deu um tiro.

A BBC tem um entendimento similar. No início do mês, a Apple Intelligence enviou uma notificação sobre a notícia de que Rafael Nadal se assumiu gay — e dizendo que ele era brasileiro.

Para o veículo britânico, a IA confundiu uma notícia de Nadal com a do tenista João Lucas Reis da Silva, que se tornou o primeiro jogador abertamente homossexual em atividade na ATP.

Quando a Apple deve liberar o recurso novamente?

A big tech não deu nenhuma previsão de retorno da ferramenta. Já a suspensão se dará com a próxima atualização do iOS, que deve ser lançada nos próximos dias.

Anteriormente, a Apple planejava manter o recurso ativo e entregar uma atualização melhorando a IA. Contudo, essa decisão manteria os problemas de notícias alucinadas, visto que o update poderia demorar — e nada garantiria sua eficiência.

Com informações de The Guardian e BBC