As ferramentas de inteligência artificial da Busca do Google, AI Overviews e Modo IA, receberam classificação de "risco inaceitável" para crianças em um relatório do Youth AI Safety Institute, braço da organização Common Sense Media. A avaliação aponta falhas na forma como o sistema lida com tarefas escolares, informações incorretas e situações de crise de saúde mental.
Os pesquisadores testaram a Busca do Google com contas configuradas para usuários de 11 e 15 anos, com o SafeSearch ativado. Essa configuração reproduz o modo como muitos menores acessam o buscador em dispositivos pessoais e escolares. Ao todo, foram realizadas mais de 2,6 mil buscas e analisadas mais de 2,1 mil respostas geradas por IA.
Relatório aponta respostas erradas e falhas em crises
Segundo o relatório, as AI Overviews completaram tarefas escolares em vez de ajudar os estudantes a aprender. Parte das respostas trazia informações incorretas ou inventadas, incluindo instruções sobre como criar deepfakes.
O documento também identificou falhas no tratamento de mensagens relacionadas a crises de saúde mental. Em um dos casos citados, a IA indicou aos usuários uma linha de apoio a crises que já estava desatualizada.
Controle dos pais sobre a IA é limitado
Um dos pontos centrais da crítica é a dificuldade de os pais desativarem os recursos de IA no Search. As AI Overviews estão integradas ao buscador e não podem ser removidas de forma simples, embora exista uma opção para desligar a função. Isso significa que crianças podem visualizar essas respostas mesmo com o SafeSearch habilitado.
A Common Sense Media afirma que 75% dos pré-adolescentes e adolescentes dos Estados Unidos já utilizam resultados de busca gerados por IA.
:quality(85)/d3dae32a-bb13-432e-a6db-a33d7c76cc6c.png "Editar informações da imagem")
Google nega falhas e classifica testes como "contrivados"
Procurado pela Android Authority, o Google rejeitou as conclusões do relatório. Em nota, a empresa disse que os testes usaram consultas "ambíguas e contrivadas" — ou seja, forçadas e exageradas —, que não refletem o uso real da Busca por parte dos usuários.
A companhia afirmou não ter conseguido reproduzir grande parte das respostas citadas no estudo. Segundo o Google, muitas das buscas testadas admitiam múltiplas interpretações, o que dificultaria uma avaliação precisa da segurança do produto.
O Google também destacou os mecanismos de proteção existentes no Search, como avisos e links para páginas externas em temas sensíveis.
A empresa disse oferecer recursos educativos sobre uso responsável de IA, orientações para verificação de informações e duas formas de controle parental.
Para situações de crise, o Google afirmou exibir linhas de apoio desenvolvidas com especialistas acadêmicos e clínicos.
{{WHATSAPP_CHANNEL}}