Gemini leu documento no Google Drive sem pedir permissão, relata usuário
Mesmo com configuração desativada, usuário recebeu resumo de documento logo após abri-lo. Google diz que não usa dados pessoais para treinar IA.
O usuário Kevin Bankston relatou no X (antigo Twitter) que o Gemini, inteligência artificial do Google, acessou e resumiu um de seus documentos no Google Drive sem ter permissão para isso. O episódio levanta preocupações de privacidade envolvendo as novas ferramentas da empresa.
Bankston, que é conselheiro sênior de governança da IA na organização não governamental Center for Democracy & Technology, diz que o resumo gerado pelo Gemini apareceu assim que ele abriu o PDF de sua declaração de imposto de renda.
“Então o Gemini está automaticamente ingerindo até os documentos privados que eu abro no Google Docs?”, questionou Bankston, que também é professor de Direito, no X. “Agora eu tenho que achar as novas configurações, já que ninguém me avisou, para desligar esta porcaria.”
Gemini não respeitou configurações, diz usuário
O especialista encontrou a configuração para ligar ou desligar os resumos do Gmail, Drive e Docs, mas aí veio outra surpresa: esta opção já estava desativada.
Sem resposta do suporte técnico do Google, Bankston levantou algumas hipóteses. Uma delas é que, ao clicar no botão do Gemini em um documento, o assistente vai funcionar automaticamente para todos os outros arquivos com aquela mesma extensão (PDF, por exemplo).
Outra teoria é que as configurações do Google Workspace Labs, que dá acesso a recursos experimentais, podem ter prioridade sobre os ajustes do Gemini. Bankston ativou essas funcionalidades em 2023, antes de elas serem liberadas para todos os usuários.
O que o Google diz
O Tecnoblog entrou em contato com o Google Brasil para entender melhor como o Gemini usa os dados de usuários. A empresa enviou o seguinte posicionamento:
Nossas funcionalidades de IA generativa são projetadas para oferecer aos usuários opções e mantê-los no controle de seus dados. Usar o Gemini no Google Workspace exige que o usuário o habilite proativamente e, quando o faz, seu conteúdo é usado de maneira que preserva a privacidade para gerar respostas úteis às suas solicitações, mas não é armazenado sem permissão.
A assessoria de imprensa também indicou um blog post de 2023 sobre políticas de privacidade envolvendo o Gemini e outras ferramentas.
O Google diz que os dados dos usuários podem ser usados de modo anonimizado ou agregado para aperfeiçoar as ferramentas, mas nunca para treinar o que chama de modelos fundacionais.
Ao pedir um resumo de um documento, por exemplo, o Google pode usar o feedback do usuário para melhorar esta funcionalidade e gerar resumos melhores no futuro. A empresa garante que não usará o conteúdo no treinamento do Gemini, isto é, para o modelo entender as informações presentes ali ou aprender a escrever melhor.
Além disso, a companhia enfatiza que assinantes do Google One AI Premium e usuários corporativos podem desativar os recursos de IA generativa. O Gemini não está disponível para usuários de planos gratuitos.
Com informações: Tom’s Hardware
