O Google removeu as visões gerais de IA dos resultados de pesquisa para consultas específicas de exames de sangue do fígado após um Guardião investigação revelou informações de saúde enganosas que ignoraram fatores-chave. O Guardian examinou o Google Visão geral de IA e identificou casos em que as respostas a perguntas relacionadas à saúde continham imprecisões. Num caso, a pesquisa sobre “qual é o intervalo normal para análises ao sangue do fígado” produziu números que não consideraram variáveis como nacionalidade, sexo, etnia ou idade. Esta omissão pode fazer com que os utilizadores interpretem mal os resultados dos seus testes como saudáveis, mesmo que indiquem potenciais problemas. Após a publicação da investigação, o Guardian informou que as visões gerais de IA não aparecem mais nos resultados de “qual é o intervalo normal para exames de sangue do fígado” e “qual é o intervalo normal para testes de função hepática”. Antes da história, essas consultas acionavam resumos gerados por IA diretamente nos resultados da pesquisa. Variações das consultas, incluindo “intervalo de referência lft” e “intervalo de referência de teste lft”, também geraram inicialmente resumos de IA. LFT significa testes de função hepática, uma abreviatura comum em contextos médicos. Essas frases alternativas ainda ativavam o recurso antes do artigo do Guardian ir ao ar. Várias horas depois que o Guardian publicou sua história, os testes dessas consultas de variação não mostraram visões gerais de IA. O Google continuou a oferecer uma opção de modo AI para os usuários realizarem as mesmas consultas por meio de uma interface separada. Em vários casos, o principal resultado da pesquisa tornou-se o artigo do Guardian detalhando a remoção. Um porta-voz do Google afirmou ao Guardian que a empresa não “comenta sobre remoções individuais na Pesquisa”, mas enfatizou os esforços contínuos para “fazer melhorias amplas”. O porta-voz acrescentou que uma equipe interna de médicos revisou as dúvidas destacadas. Essa equipa clínica determinou que “em muitos casos, a informação não era imprecisa e também era apoiada por websites de alta qualidade”. Esta avaliação cobriu as questões específicas de saúde levantadas nas reportagens do Guardian. O TechCrunch contatou o Google separadamente para comentários adicionais sobre as remoções e desenvolvimentos relacionados. No ano anterior, o Google introduziu recursos para aprimorar as pesquisas relacionadas à saúde. Isso incluiu visões gerais aprimoradas, adaptadas para casos de uso médico e modelos de IA dedicados com foco na saúde, projetados para fornecer informações mais confiáveis nesse domínio. Vanessa Hebditch, diretora de comunicações e políticas do British Liver Trust, descreveu a remoção como “excelentes notícias”. Ela continuou: “Nossa maior preocupação com tudo isso é que estamos escolhendo um único resultado de pesquisa e o Google pode simplesmente desligar as visões gerais de IA para isso, mas não está abordando o problema maior das visões gerais de IA para a saúde”.
