Amazon : l’IA Rufus qui vous aide à faire votre shopping inquiète déjà

À peine lancé par Amazon en version test, l'assistant shopping virtuel Rufus fait parler de lui. Certains craignent que l'IA favorise les produits du géant du e-commerce, ou ceux des firmes qui payent pour être mises en avant.

Et si une intelligence artificielle vous aidait à faire votre shopping sur Amazon ? Le géant du e-commerce a justement dévoilé son assistant virtuel Rufus début février 2024. Dans les faits, il s'agit d'un chatbot “formé sur le vaste catalogue de produits d'Amazon, les avis des clients, les questions et réponses de la communauté et les informations du Web pour répondre aux questions des clients sur une variété de besoins et de produits, fournir des comparaisons et faire des recommandations basées sur un contexte conversationnel”, nous dit l'entreprise.

Sur la papier, c'est plutôt séduisant. Vous pouvez par exemple lui demander de trouver le cadeau idéal pour une mordue d'astronomie, ou des idées pour l'anniversaire de votre moitié. L'IA peut même comparer des produits entre eux et vous donner des informations précises sur chacun. Sauf qu'une question importante est posée d'emblée : est-ce que Rufus va privilégier les produits qui rapportent le plus à Amazon, indépendamment d'autres critères ? Une pratique qui est loin d'être une hypothèse. La Federal Trade Commission (FTC) a porté plainte contre la firme en 2023 en l'accusant de tourner les résultats de recherche en sa faveur.

L'assistant IA Rufus lancé par Amazon pose déjà question

Si la nouvelle IA soulève de nouveau ce point, c'est en partie parce qu'Amazon reste très secret sur le fonctionnement de son algorithme. Michael Pachter, analyste chez Wedbush Securities, n'a pas grand espoir sur l'impartialité de l'outil : “Vous obtiendrez très probablement des résultats sponsorisés. La publicité stimule le commerce de détail et Amazon ne fait pas exception. Comment pensez-vous qu'ils génèrent des dizaines de milliards de dollars en publicité par an ?”. En effet, la société a récemment annoncé une hausse de 27 % de ses revenus publicitaires pour le 4e trimestre 2023, pour un total de 14,7 milliards de dollars.

Il est cependant trop tôt pour se prononcer, l'IA Rufus étant en phase de test. L'analyste logiciel Gil Luria constate que le chatbot reste neutre, ce qui est une nécessité : “[si les clients] perdent confiance dans la façon dont [Rufus] répond, [ils] ne lui demanderont plus rien”. L'assistant virtuel d'Amazon va être déployé à de plus de plus d'américains au fil des semaines à venir.

Source : Reuters