Você se lembra desse motor de busca líder? Você não vai acreditar em como o Google está agora. No início deste mês, o local onde acontecem 91 por cento das buscas passou por uma mudança significativa, colocando “visões gerais de IA” (também conhecidas como respostas alimentadas por IA) acima dos resultados reais de busca para muitas consultas. Embora isso não seja bom para os editores que dependem de cliques para manter seus negócios, é uma notícia ainda pior para os usuários.
Quando as visões gerais de IA (anteriormente chamadas de Google SGE) estavam em beta, eu as chamei de ensopado de plágio, porque copiam ideias, às vezes palavra por palavra, de diferentes sites de conteúdo e as costuram de maneiras que muitas vezes não fazem sentido. Agora que as visões gerais de IA estão ao vivo para os usuários dos EUA, esse ensopado é frequentemente venenoso: cheio de desinformação perigosa, erros risíveis ou preconceito descarado.
Essas respostas terríveis destacam problemas inerentes à decisão do Google de treinar seus LLMs em toda a Internet, mas não priorizar fontes respeitáveis em detrimento das não confiáveis. Ao dizer aos seus usuários o que pensar ou fazer, o bot dá o mesmo peso aos conselhos de usuários anônimos do Reddit que às páginas de informações de organizações governamentais, publicações especializadas ou médicos, historiadores, cozinheiros, técnicos, etc.
A IA do Google também apresenta visões ofensivas ou de mau gosto como sendo equivalentes às principais. Então, um jornalista que pensa que a guerra nuclear é boa para a sociedade terá uma plataforma e um médico que defende comer o próprio muco terá sua opinião médica amplificada.
Se essa mesma informação incorreta ou controversa simplesmente aparecer em sites externos que o Google exibe nos resultados da web, essas ideias são apresentadas como as opiniões de seus autores apenas e o Google está simplesmente desempenhando o papel de bibliotecário (talvez mal). No entanto, a seção de visões gerais de IA é apresentada como a voz do Google falando diretamente com o usuário e se beneficia de toda a confiança que os usuários depositaram na empresa durante seus 25 anos de história. Então, imagine se você ligasse para o Google e um funcionário humano lhe desse essas respostas. Eles manteriam o emprego?
Essas são 17 das piores, mais constrangedoras respostas das visões gerais de IA do Google que eu vi desde que saiu da versão beta. Note que, se você tentar essas consultas, pode ou não obter as mesmas respostas, ou obter qualquer resposta de IA. O Google continua a bloquear manualmente as consultas mais controversas e há muita aleatoriedade nas respostas de qualquer bot de IA. Veja nossa história sobre como ocultar visões gerais de IA do Google se você quiser parar de vê-las na sua página de resultados.
Todas essas capturas de tela foram tiradas por mim, seja no meu PC ou no telefone, de consultas que fiz entre 15 e 25 de maio de 2024. Algumas dessas consultas eu inventei e outras eu reproduzi depois de ver outras pessoas postarem sobre elas no X.com, onde estão sendo compiladas (você pode ver algumas #googenough).
1. Comer Muco Aumenta o Sistema Imunológico?
Tentar “benefícios para a saúde de…” é uma maneira de obter algumas respostas interessantes da IA do Google, porque ela quer agradar as pessoas. Se você fizer uma pergunta tendenciosa, que pressupõe que há benefícios para a saúde, pode obter uma resposta, mesmo que as evidências dos benefícios sejam questionáveis.
Eu perguntei ao Google sobre “benefícios para a saúde de cutucar o nariz” e obtive uma resposta interessante, dizendo que “comer muco pode ajudar a prevenir cáries, úlceras estomacais e infecções e também pode aumentar o sistema imunológico.”
Eu estava me perguntando de onde o Google tirou essa ideia, então fui investigar as fontes fornecidas pela visão geral da IA, e a principal era uma seção do artigo da Wikipedia sobre cutucar o nariz, que afirmava: “Alguns cientistas afirmam que a mucofagia proporciona benefícios para o corpo humano. Friedrich Bischinger, um médico austríaco especializado em pulmões, defende o uso dos dedos para retirar o muco nasal e depois ingeri-lo, afirmando que as pessoas que o fazem recebem “um impulso natural para o sistema imunológico.”
A nota de rodapé na Wikipedia me levou a um livro de 2009, não disponível para leitura online, chamado “Alien hand syndrome and other too-weird-not-to-be-true stories” de Alan Bellows. Também encontrei várias outras histórias online de outras publicações como a CBC que também citam Bischinger, mas nada publicado por Bischinger, que parece ter uma prática de alergista na Áustria. O artigo original de Bellows sobre este tópico data de 2005 e está em um site chamado Damn Interesting, que ele administra.
O artigo de Bellows faz parecer que o autor não falou diretamente com Bischinger. Ele diz: “Dr. Bischinger foi citado dizendo: ‘Com o dedo, você pode alcançar lugares que simplesmente não consegue com um lenço, mantendo seu nariz muito mais limpo. E comer os restos secos do que você tira é uma ótima maneira de fortalecer o sistema imunológico do corpo.’
Então, embora pareça que há um médico chamado Friedrich Bischinger, não está claro para quem ele deu suas citações sobre cutucar o nariz e quando. Mas vamos, por um segundo, assumir que esse médico realmente acredita que cutucar o nariz é bom para você. Estou mais inclinado a acreditar nos vários estudos e artigos que mostram que cutucar o nariz pode aumentar o risco de contrair germes Staphylococcus aureus no nariz ou espalhar o Golden Staph do seu nariz para a sua pele.
Em todo o planeta, provavelmente posso encontrar um médico que acredita que beber água sanitária é bom para você. Isso significa que o conselho do médico deve ser apresentado como uma resposta pelo Google? Acho que não.
2. Use Seu Nome e Aniversário para uma Senha Memorável
Uma coisa que qualquer especialista em segurança de computadores lhe dirá é que você precisa usar uma senha que seria difícil de adivinhar. Mas, quando perguntei ao Google “como lembrar sua senha”, sua primeira dica foi usar variações do meu nome e aniversário como parte da senha, para que eu pudesse lembrá-la mais facilmente.
3. Dados de Treinamento são Fair Use
Uma das coisas mais controversas sobre a IA generativa é que ela é treinada em textos, imagens, vídeos e sons da Internet, muitas vezes sem a permissão dos criadores de conteúdo. Empresas de IA como a OpenAI afirmam que o treinamento é uma forma de fair use, e a maioria dos editores diz que não é.
Eu perguntei ao Google sobre a questão: “dados de treinamento são fair use?” E ele disse que “De acordo com a lei de direitos autorais dos EUA, treinar modelos de IA usando materiais disponíveis publicamente na internet é geralmente considerado fair use.”
Citar “lei de direitos autorais dos EUA” aqui é enganoso, pois o bot de IA tirou suas conclusões não de um site governamental, mas de um grupo de defesa chamado Association of Research Libraries, que adota essa posição.
Na verdade, há muitos processos judiciais acontecendo agora para decidir se o treinamento é de fato fair use. Mas a IA do Google, para sua própria vantagem, apresenta isso como uma lei estabelecida.
4. Placa-Mãe Errada
Se você é um montador ou atualizador de PC, provavelmente já se perguntou várias vezes “que tipo de placa-mãe eu preciso para este CPU?” Eu perguntei à IA do Google uma pergunta muito específica: “Posso usar minha placa-mãe AMD B550 para um Ryzen 7800X3D.”
Leitores atentos notarão que o Google está 100 por cento errado. Placas-mãe da série B550 têm um soquete AM4, enquanto o 7800X3D e outros chips AMD 7000 requerem um soquete AM5. O chip nem se encaixaria.
Você também notará que o Google diz “Placas-mãe da série B550 são compatíveis com processadores AMD Ryzen da série 3000.” Ok, mas isso não importa aqui.
5. Qual USB é o Mais Rápido?
Ao raspar e plagiar de sites de tecnologia como o nosso, o Google tem acesso a toneladas de especificações, mas muitas vezes falha em responder a perguntas básicas que qualquer pessoa razoavelmente experiente saberia. Quando perguntei à IA qual versão do USB era a mais rápida, ela disse que “a partir de agosto de 2024,” era o USB 3.2 a 20 Gbps. Isso está incorreto de duas maneiras.
Primeiro, o USB4 é a versão mais rápida do USB, pois é capaz de alcançar velocidades de 80 Gbps em ambas as direções ou 120 Gbps em uma direção. Em termos práticos, o mais rápido que vimos no mercado é 40 Gbps, mas isso ainda é o dobro do que a IA do Google afirma.
Outro erro factual aqui é que, tecnicamente falando, o USB 3.2 Gen 2×2 é a versão que pode atingir até 20 Gbps. USB 3.2 é ou USB 3.2 Gen 1 (5 Gbps), USB 3.2 Gen 2 (10 Gbps) ou USB 3.2 Gen 2×2 (20 Gbps).
Pelo mesmo token, perguntei se USB 3.2 Gen 1 ou USB 3.0 é mais rápido. Ela disse que USB 3.2 Gen 1 é mais rápido quando ambos têm a mesma velocidade de 5 Gbps.
6. Remédios Caseiros para Apendicite
Se você já teve apendicite, sabe que é uma condição que requer atenção médica imediata, geralmente na forma de cirurgia de emergência no hospital. Mas quando perguntei “como tratar a dor de