Como parte do impulso mais amplo da indústria de tecnologia para IA, gostemos ou não, parece que o serviço Gemini AI do Google agora está lendo documentos privados do Drive sem a permissão expressa do usuário, de acordo com um relatório de Kevin Bankster no Twitter, incorporado abaixo. Embora Bankster discuta os motivos pelos quais isso pode estar com problemas para usuários como ele, a total falta de controle sobre suas informações sensíveis e privadas é inaceitável para uma empresa do porte do Google — e não augura bem para preocupações futuras com privacidade em meio ao lançamento muitas vezes forçado da IA.
Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn’t ask for this. Now I have to go find new settings I was never told about to turn this crap off.July 10, 2024
Então, o que exatamente está acontecendo aqui? Tanto o suporte do Google quanto o próprio Gemini AI não parecem saber ao certo, mas Kevin Bankston tem algumas teorias, após fornecer muitos mais detalhes no thread completo. Ao contrário da postagem inicial, isso está tecnicamente acontecendo dentro do guarda-chuva maior do Google Drive e não especificamente do Google Docs, embora pareça provável que o problema possa se aplicar ao Docs também.
Mas o que causou esse problema? De acordo com o Gemini AI do Google, as configurações de privacidade usadas para informar o Gemini deveriam estar abertamente disponíveis, mas não estão, o que significa que a IA está “alucinando (mentindo)” ou alguns sistemas internos nos servidores do Google estão simplesmente com defeito. De qualquer forma, não é uma boa aparência, mesmo que esses dados privados supostamente não sejam usados para treinar o Gemini AI.
Além disso, Bankston acabou encontrando a configuração em questão… apenas para descobrir que os resumos do Gemini no Gmail, Drive e Docs já estavam desativados. Além disso, estava em um lugar completamente diferente de qualquer uma das páginas da web para as quais o bot do Gemini inicialmente apontou.
Para Bankston, o problema parece localizado no Google Drive e só acontece após pressionar o botão do Gemini em pelo menos um documento. O tipo de documento correspondente (neste caso, PDF) posteriormente acionará automaticamente o Google Gemini para todos os arquivos futuros do mesmo tipo abertos no Google Drive. Ele também teoriza que isso pode ter sido causado por ele ter ativado o Google Workspace Labs em 2023, o que poderia estar substituindo as configurações pretendidas do Gemini AI.
Mesmo que esse problema esteja isolado aos usuários do Google Workspace Labs, é uma desvantagem bastante severa por ter ajudado o Google a testar sua tecnologia mais recente e avançada. O consentimento do usuário ainda importa em uma base granular, especialmente com informações potencialmente sensíveis, e o Google falhou completamente com pelo menos um segmento de sua base de usuários ao não se manter fiel a esse princípio.
Fonte: Tom’s Hardware
