Google Home déraille et invente des événements qui ne se sont jamais produits dans la maison

L’IA promet de nous offrir une expérience de maison connectée encore plus fluide et pertinente. Mais elle doit encore progresser sur certains points.

Le passage de Google Assistant à Gemini ne s’est pas fait sans encombre chez certains utilisateurs équipés de caméras connectées. L’une des principales promesses de l’intégration de l’assistant IA dans Google Home était de pouvoir analyser les scènes filmées par les caméras de surveillance du domicile pour retrouver des moments précis ou obtenir un résumé des événements de la journée et des personnes qui se trouvaient à la maison. Une fonction qui nécessite encore des améliorations, selon plusieurs témoignages.

Sur Reddit, plusieurs utilisateurs font savoir que Google Home a tendance à halluciner et à inventer des actions qui se seraient produites, voire des individus, rapporte Android Authority. L’un d’entre eux explique que l’application lui a raconté qu’une certaine Sarah avait sorti les poubelles et promené le chien. Des actions qu’il avait lui-même réalisées, alors qu’il est un homme, qu’il vit seul et qu’il ne connait aucune Sarah. Elle lui a aussi assuré qu’il y avait deux chiens à la maison, alors qu’il n’en a qu’un.

L’IA de Google Home invente des scènes

Dans un autre cas, le système indique à un utilisateur que son ami David est passé à la maison pour passer l’aspirateur. Ce David existe bien, mais il n’était pas venu ce jour-là et personne n’avait passé l’aspirateur non plus. Google Home a rappelé à une autre personne de sortir les poubelles, alors que ce n’était pas le bon jour pour le faire. “Je lui ai demandé pourquoi il m’avait dit ça, et il a nié l’avoir dit. Quand je lui ai répondu qu’il me l’avait dit il y a une minute, il a réitéré son déni et a affirmé que je devais me tromper, car il n’y avait aucune trace de cela”, raconte-t-elle.

Le résumé d’activité d’un autre utilisateur assurait que “Michael a été vu en train de sortir les poubelles”. Or, celui-ci ne s’appelle pas Michael et il n’a jamais saisi ce nom dans le système. Quand il partage l’erreur à Google Home, il se voit répondre que sa caméra “peut identifier les visages même sans les nommer explicitement”. Bref, l’IA a encore des progrès à faire.