Gemini leu documento no Google Drive sem pedir permissão, relata usuário

Mesmo com configuração desativada, usuário recebeu resumo de documento logo após abri-lo. Google diz que não usa dados pessoais para treinar IA.

Giovanni Santa Rosa

O usuário Kevin Bankston relatou no X (antigo Twitter) que o Gemini, inteligência artificial do Google, acessou e resumiu um de seus documentos no Google Drive sem ter permissão para isso. O episódio levanta preocupações de privacidade envolvendo as novas ferramentas da empresa.

Bankston, que é conselheiro sênior de governança da IA na organização não governamental Center for Democracy & Technology, diz que o resumo gerado pelo Gemini apareceu assim que ele abriu o PDF de sua declaração de imposto de renda.

“Então o Gemini está automaticamente ingerindo até os documentos privados que eu abro no Google Docs?”, questionou Bankston, que também é professor de Direito, no X. “Agora eu tenho que achar as novas configurações, já que ninguém me avisou, para desligar esta porcaria.”

Gemini não respeitou configurações, diz usuário

O especialista encontrou a configuração para ligar ou desligar os resumos do Gmail, Drive e Docs, mas aí veio outra surpresa: esta opção já estava desativada.

Homem sobre palco
Sundar Pichai apresentou recursos do Gemini no Google I/O 2024 (Imagem: Reprodução / Google)

Sem resposta do suporte técnico do Google, Bankston levantou algumas hipóteses. Uma delas é que, ao clicar no botão do Gemini em um documento, o assistente vai funcionar automaticamente para todos os outros arquivos com aquela mesma extensão (PDF, por exemplo).

Outra teoria é que as configurações do Google Workspace Labs, que dá acesso a recursos experimentais, podem ter prioridade sobre os ajustes do Gemini. Bankston ativou essas funcionalidades em 2023, antes de elas serem liberadas para todos os usuários.

O que o Google diz

O Tecnoblog entrou em contato com o Google Brasil para entender melhor como o Gemini usa os dados de usuários. A empresa enviou o seguinte posicionamento:

Nossas funcionalidades de IA generativa são projetadas para oferecer aos usuários opções e mantê-los no controle de seus dados. Usar o Gemini no Google Workspace exige que o usuário o habilite proativamente e, quando o faz, seu conteúdo é usado de maneira que preserva a privacidade para gerar respostas úteis às suas solicitações, mas não é armazenado sem permissão.

A assessoria de imprensa também indicou um blog post de 2023 sobre políticas de privacidade envolvendo o Gemini e outras ferramentas.

O Google diz que os dados dos usuários podem ser usados de modo anonimizado ou agregado para aperfeiçoar as ferramentas, mas nunca para treinar o que chama de modelos fundacionais.

Ao pedir um resumo de um documento, por exemplo, o Google pode usar o feedback do usuário para melhorar esta funcionalidade e gerar resumos melhores no futuro. A empresa garante que não usará o conteúdo no treinamento do Gemini, isto é, para o modelo entender as informações presentes ali ou aprender a escrever melhor.

Além disso, a companhia enfatiza que assinantes do Google One AI Premium e usuários corporativos podem desativar os recursos de IA generativa. O Gemini não está disponível para usuários de planos gratuitos.

Com informações: Tom’s Hardware

Leia | Como editar PDF no Google Docs [Google Drive]

Relacionados

Escrito por

Giovanni Santa Rosa

Giovanni Santa Rosa

Repórter

Giovanni Santa Rosa é formado em jornalismo pela ECA-USP e cobre ciência e tecnologia desde 2012. Foi editor-assistente do Gizmodo Brasil e escreveu para o UOL Tilt e para o Jornal da USP. Cobriu o Snapdragon Tech Summit, em Maui (EUA), o Fórum Internacional de Software Livre, em Porto Alegre (RS), e a Campus Party, em São Paulo (SP). Atualmente, é autor no Tecnoblog.