Il promet de l’IA pour faciliter le shopping en ligne, mais délègue le travail à des employés humains
Le fondateur d’une appli censée utiliser l’IA pour aider aux achats en ligne est accusé de fraude. En réalité, la grande majorité des opérations soi-disant automatisées étaient effectuées par des humains.
Vous connaissez le Turc mécanique ? C’est un automate joueur d’échecs créé à la fin du 18e siècle. Pendant plus de 80 ans, on croit qu’il s’agit vraiment d’un robot capable de déplacer les pièces sur l’échiquier et de gagner seul. En réalité, un humain était caché dans la grande table servant à la prétendue mécanique de la machine et la contrôlait comme un marionnettiste. L’histoire d’Albert Saniger est assez similaire, si ce n’est que l’automate est remplacé par l’intelligence artificielle et le joueur d’échecs par les employés d’un centre d’appel.
En 2018, l’homme originaire de Barcelone en Espagne fonde Nate, une entreprise proposant une application présentée comme révolutionnant les achats en ligne à l’aide de l’IA. Sa promesse : vous faire gagner du temps en s’occupant de toutes les démarches qui suivent le repérage d’un article sur un site de vente.
Exemple : vous ouvrez l’appli, trouvez une paire de chaussures qui vous plaît et appuyez sur le bouton “Acheter“. L’IA se charge ensuite de choisir la bonne taille, d’entrer les informations de livraison, de paiement, et de valider la transaction. Pratique non ? Sauf que sous le capot, ce n’est pas vraiment ce qu’il se passe.
Le créateur d’une application IA est accusé de fraude, des humains se chargeaient du travail
Lorsqu’il cherche à lever des fonds auprès d’investisseurs, Saniger présente son système d’IA propriétaire comme “capable d’effectuer des transactions en ligne sans intervention humaine“. Mis à part quelques “cas extrêmes“, tout est automatique. En réalité, bien qu’il ait acheté une technologie IA tierce et engagé une équipe pour la développer, ça ne fonctionne pas du tout. Au moment où l’homme vante les mérites de son produit, aucune transaction n’est effectuée par l’intelligence artificielle.
Saniger a secrètement engagé des centaines d’employés en chair et en os, notamment ceux d’un centre d’appels aux Philippines, pour s’occuper des transactions effectuées via l’appli. À l’automne 2021, quand la saison des achats en ligne approche, il demande à ses équipes de créer des bots pour épauler les travailleurs. Pourtant il a toujours dit que son système ne s’en servait pas.
En parallèle, l’entrepreneur fait tout pour qu’on ne soupçonne rien. Il ordonne à ses salariés de garder le silence sur le taux de transactions réellement gérées par l’IA et restreint fortement l’accès au tableau de bord qui les recense. Quand on lui demande pourquoi il fait autant de cachotteries, il répond que les données relatives à son système sont un “secret commercial“.
Pour avoir vendu de l’IA qui n’existait pas, l’entrepreneur risque très gros
C’est en 2022 que le média The Information dévoile le pot aux roses. Une enquête est ouverte et on apprend par exemple qu’en 2021, soit 3 ans après son lancement, “la part des transactions traitées par [l’application] Nate manuellement plutôt qu’automatiquement se situait entre 60 et 100 %“. Au total, Saniger a récolté 40 millions de dollars auprès d’investisseurs en leur vendant du vent.
Lire aussi – L’intelligence artificielle peut mentir maintenant, cette étude montre comment
Suite à l’enquête du FBI, Albert Saniger est accusé de fraude boursière et de fraude électronique par l’État de New-York. Pour chacun des chefs d’accusation, il encourt jusqu’à 20 ans de prison, soit 40 ans derrière les barreaux dans le pire des cas, les peines américaines étant cumulatives. Il s’agit des sanctions maximales pouvant être prononcées. Si condamnation il y a lors du procès, la durée d’emprisonnement sera définie par le ou la juge.
Source : Department of Justice
