Google omite alertas de segurança em resumos de saúde
Google omite alertas de segurança em resumos de saúde segundo investigação do jornal britânico The Guardian, que aponta a ausência de avisos visíveis sobre possíveis erros nos conselhos médicos fornecidos pela ferramenta AI Overview do buscador.
Google omite alertas de segurança em resumos de saúde
O relatório revela que, ao pesquisar sintomas ou tratamentos, o usuário recebe um resumo gerado por Inteligência Artificial sem qualquer disclaimer na primeira visualização. O alerta aparece apenas se o internauta clicar em “Mostrar mais” e surge no fim do texto, em fonte menor e mais clara que o conteúdo principal, reduzindo a probabilidade de ser lido.
Especialistas em IA e entidades de defesa do paciente classificam essa prática como um risco. Pat Pataranutaporn, pesquisador do MIT, explica que a combinação de alucinações da IA e a sensação de resposta “definitiva” no topo da página cria um ambiente em que o internauta pode confiar cegamente em informações potencialmente imprecisas. Para ele, avisos claros “quebram a confiança automática” e estimulam a checagem crítica.
A crítica não é inédita. Em janeiro, outra apuração já havia mostrado que a plataforma exibiu dados médicos falsos, levando o Google a desativar a IA em algumas buscas específicas. Entretanto, a função continua ativa para diversos termos de saúde. A organização britânica Anthony Nolan, dedicada a pacientes com câncer no sangue, defende que o aviso seja reposicionado no início do resumo e com o mesmo tamanho de fonte.
Procurado, o Google nega falhas. Um porta-voz afirmou que o AI Overview “menciona frequentemente a necessidade de procurar um profissional de saúde” e que orientar o usuário a buscar atendimento é “pilar do sistema”. Contudo, as alegações não convencem críticos. “Esse aviso precisa estar no topo”, reforça Tom Bishop, chefe de informação aos pacientes da Anthony Nolan.
Em texto sobre o caso, o The Guardian detalha que posicionar o alerta no fim minimiza o impacto, pois muitos leitores não expandem a resposta. A prática pode atrasar diagnósticos, especialmente para quem já enfrenta sintomas graves e busca orientação imediata.
Imagem: Google
A discussão ocorre em meio à corrida das big techs para integrar IA generativa a produtos de uso diário. A pressão por rapidez, segundo pesquisadores, não pode superar a necessidade de segurança em temas sensíveis como saúde.
No momento, não há indicação de ajuste significativo na interface. Caso a polêmica se agrave, reguladores poderão questionar a conformidade da solução com normas de proteção ao consumidor.
Para saber mais sobre debate de tecnologia e saúde, leia também outras matérias em nossa editoria de Brasil e siga acompanhando as atualizações.
Crédito da imagem: Google/reprodução
