Google diffuse des fake news en voulant résumer les titres des articles sur le fil Discover avec l’IA

Dans l'onglet Discover sur Android, les titre de articles qui apparaissent sont désormais résumés par IA. Problème, cette dernière n'a visiblement aucune idée de ce dont parlent les articles en question, puisque la plupart du temps, elle vise complètement à côté. Quitte à carrément propager des fake news.

Il va falloir s'y habituer, Google est bien décidé à mettre de l'IA absolument partout. Dans Chrome, dans Android Auto, dans Home, dans Photos, bref, toutes les applications et recoins d'Android où il est possible d'intégrer la moindre petite fonctionnalité basée sur Gemini y auront tôt ou tard droit. Mais alors que la firme est généralement très prompte à annoncer ce genre de nouveauté, il semblerait qu'elle mène actuellement un test (plus ou moins) discrètement dans son onglet Discover.

Si vous faites partie de ceux qui ne swipez jamais à gauche depuis l'écran d'accueil de votre smartphone Android, l'onglet Discover est une sélection d'articles sélectionnés spécialement pour vous, permettant de s'informer rapidement et efficacement sur les sujets qui nous intéressent. Or, Google prend visiblement très à coeur cette notion de rapidité et trouve que le titre des articles est souvent trop long. La solution : utiliser l'intelligence artificielle pour les résumer en quelques mots. Seulement voilà, c'est une véritable catastrophe.

Sur le même sujet – Préparez-vous à un gros changement sur Google Discover, s’informer ne se fera plus comme avant

Google utilise l'IA pour raccourcir le titre des articles sur Discover

Comme l'ont repéré nos confrères de The Verge, l'IA vise très souvent à côté. Pour un article qui spécule légèrement sur le prix de la Steam Machine, celle-ci a titré “Le prix de la Steam Machine révélé”. Pour un autre qui s'intéresse aux méthodes employées par les salariés de Microsoft pour intégrer l'IA dans leur travail, elle a titré “Les développeurs de Microsoft utilisent-ils l'IA ?”. La réponse est bien évidemment oui, et on doute franchement qu'à ce stade il reste encore des personnes qui ne sont pas au courant.

Problème : ces grosses approximations peuvent rapidement tourner à la fake news. L'IA a affirmé que “les cartesq graphiques AMD se vendent mieux que celles de Nvidia” en se basant uniquement sur l'expérience d'un seul revendeur allemand qui, effectivement, avait vendu plus de GPU AMD sur… une semaine. Tout cela, sans compter les titres qui n'ont simplement aucun sens, comme “Sauvegarde du planning 1 de récolte” ou encore “la chaleur du débat sur le tag IA”. On vous laisse deviner de ce que cela veut dire.