Google retire ses résumés IA après avoir donné des conseils santé dangereux

Google a retiré certains résumés IA sur la santé. Des experts dénoncent des erreurs graves dans les réponses. Certains patients auraient pu en subir les conséquences.

Google mise depuis plusieurs mois sur les résumés IA pour simplifier la recherche en ligne. Cette fonctionnalité, appelée AI Overviews, propose une réponse générée automatiquement en haut des résultats. Elle s’appuie sur le modèle d’intelligence artificielle Gemini, avec l’objectif d’offrir une synthèse rapide à l’utilisateur.

Mais selon une étude publiée plus tôt cette année, seuls 1 % des internautes cliquent sur un lien après l’affichage d’un résumé IA. La plupart se contentent de la réponse affichée en haut de la page, sans chercher à vérifier les informations. Ce comportement devient problématique lorsque l’encadré contient des erreurs. Dans des domaines sensibles comme la santé, la moindre imprécision peut entraîner des conséquences graves pour les patients.

Google supprime des réponses IA erronées sur le cancer et les maladies du foie

Une enquête du Guardian a révélé plusieurs cas d’informations médicales fausses ou dangereuses dans les résumés IA de Google. L’un d’eux recommandait à des patients atteints d’un cancer du pancréas d’éviter les aliments gras. Or, ces aliments sont une source essentielle de calories pour supporter les traitements. Un autre résumé proposait des valeurs erronées pour des tests hépatiques. Il ne tenait pas compte de critères comme l’âge ou le sexe. Cela pouvait tromper des personnes atteintes de maladies du foie.

Le problème ne s’arrête pas là. D’autres recherches affichaient également des données incorrectes, comme un test mentionné à tort pour le dépistage du cancer vaginal. Certaines réponses variaient même d’un jour à l’autre, ce qui pose la question de leur fiabilité. Des associations de santé ont alerté sur les risques de diagnostics retardés ou de symptômes ignorés à cause de ces erreurs.

Google a retiré certaines de ces réponses, sans commenter publiquement ces suppressions. L’entreprise affirme que la majorité de ses résumés IA sont fiables et qu’elle continue d’améliorer leur qualité. Mais ces exemples montrent que même une petite erreur peut avoir un impact direct sur la santé des internautes. Dans le domaine médical, la précision n’est pas une option, elle est indispensable.