Amazon punit ses livreurs à cause de l’IA défaillante de ses caméras

Amazon a décidé d'installer depuis peu des caméras à bord de ses camions de livraison. Le but ? Surveiller le comportement des livreurs et les sanctionner en cas de violation du code de la route. Seulement et comme en témoignent de nombreux salariés, les erreurs sont nombreuses, ce qui entraînent des malus injustifiés sur leur paie.

Depuis 2018, Amazon a mis en place le programme DPS, pour Delivery Service Partners. Pour s'assurer de livrer à bon port les milliards de colis envoyés par le géant du e-commerce, Amazon s'appuie sur 2000 petites entreprises de livraison, ce qui représente un total de 115 000 chauffeurs sous-traitants rien qu'aux États-Unis.

Bien entendu, la compagnie américaine à des exigences pour devenir partenaire, à commencer par le respect d'un ensemble de règles concernant l'embauche, l'apparence des chauffeurs jusqu'à leur odeur corporel, leurs activités sur les réseaux sociaux, la rémunération, les itinéraires et l'adoption de différents mécanismes de sécurité et de surveillance comme les caméras Netradyne.

En effet, depuis février 2021, Amazon a commencé à installer des caméras boostées à l'intelligence artificielle dans ses camions de livraison. Fabriquées par Netradyne, les caméras “Driveri” sont là pour “assurer la sécurité des conducteurs”. À l'heure actuelle, elles équipent plus de la moitié de la flotte de livraison américaine, comme l'a précisé un porte-parole d'Amazon à nos confrères du site Motherboard (Vice).

Les caméras d'Amazon sont censées traquer les mauvais conducteurs

Ces caméras embarquent quatre objectifs qui enregistrent les conducteurs lorsqu'ils détectent des “évènements” qui violent le code de la Route, comme le non-respect des distances de sécurité, d'un panneau Stop, d'un feu rouge, ou bien l'oubli du port de la ceinture par exemple. Lorsqu'un “évènement” est détecté par la caméra, les images sont téléchargées sur une interface Netradyne accessible par Amazon et la société de livraison qui emploie le conducteur. En parallèle, une voix robotique émanant de la caméra se charge de faire la moral au livreur et lui notifie son erreur.

Et bien entendu, chaque “évènement” influe négativement sur le score que les conducteurs reçoivent à chaque fin de semaine. Or, ces scores de performance déterminent s'ils reçoivent des prix, des primes et des bonus sur leur salaire. Seulement et comme le racontent six chauffeurs Amazon employés en Californie, au Texas, au Kansas, en Alabama et en Oklahoma et le propriétaire d'une société de livraison partenaire  située à Washington, ces caméras ont la fâcheuse tendance à punir les conducteurs pour de faux “évènements”.

À lire également : Amazon licencie ses employés via un algorithme qui note leur travail

De trop nombreux faux “évènements” enregistrés

En effet, les caméras les sanctionnent lorsqu'ils regardent leur rétroviseur, lorsqu'ils se tournent pour effectuer une marche arrière, lorsqu'ils s'arrêtent avant un stop à une intersection sans visibilité ou lorsqu'ils se font couper la route par une autre voiture lorsque le trafic est dense. “Chaque fois que je dois effectuer un virage à droite, cela se produit inévitablement. Une voiture me coupe la route pour se mettre sur ma voie, et la caméra, avec cette voix robotique sombre vraiment dystopique, me crie dessus. C'est tellement déconcertant. C'est bouleversant, alors que je n'ai rien fait”, explique Derek, chauffeur-livreur pour Amazon à Los Angeles.

Il explique d'ailleurs qu'il a tenté de contester les évènements enregistrés par la caméra auprès d'Amazon, sans succès. “Lorsque je reçois mon score chaque semaine, je demande à mon entreprise ce que j'ai fait de mal. Mon entreprise a envoyé un mail à Amazon en me mettant en copie afin de leur réclamer les photos des évènements enregistrés, mais ils ne répondent pas. Il n'y a pas de place pour la discussion si vous insinuez que les données de la caméra sont erronées”, dénonce-t-il.

De l'avis du dirigeant d'un service de livraison partenaire d'Amazon, ces caméras ont permis au géant de faire d'énormes économies, puisqu'elles autorisent Amazon à moins payer ses sous-traitants en fonction du nombre de violations enregistrées. Comme en atteste un document interne obtenu par Motherboard, “la sécurité et la conformité” représentent 40% du score d'un partenaire de service de livraison. Il s'agit notamment d'une “mesure de conduite sûre” calculée par une application appelée Mentor, d'un taux d'enlèvement de la ceinture de sécurité, d'un taux d'excès de vitesse, d'un taux d'infractions à la signalisation, d'un taux de distraction et d'un taux de respect des distances de sécurité.

Ces caméras poussent les services de livraison à la faillite

À titre d'exemple, chaque violation de feu rouge enregistrée équivaut à 10 évènements de violation de panneau Stop. Pour obtenir une note “Fantastique”, les services de livraison doivent obtenir moins de 50 évènements en 100 trajets. “Si votre note de sécurité n'est pas fantastique, vous ne recevrez pas de bonus. Ils disent “Nous sommes obsédés par la sécurité” ou je ne sais quelle connerie, mais cette caméra coûte aux entreprises de livraison des centaines de dollars de revenus chaque semaine, dont elles ont besoin pour former les conducteurs et survivre. Sans la prime, vous ne survivez pas et vous faites faillite”, assure le propriétaire d'une compagnie de livraison partenaire à Washington.

La situation est devenue tellement cauchemardesque que certains chauffeurs ont commencé à placer des autocollants sur les caméras pour éviter qu'elles n'enregistrent des images d'eux. De son côté, Amazon garantit qu'une équipe examine manuellement l'ensemble des évènements qui font l'objet d'un appel, pour s'assurer que les évènements erronés n'impactent pas les conducteurs ou les compagnies de livraison.

“Un processus d'appel futile”

Mais d'après ce même propriétaire de service de livraison, le nombre d'évènements enregistrés, la quantité de travail nécessaire pour les examiner, et la faible probabilité qu'un évènement soit annulé rend le processus d'appel futile. “Les caméras sonnent constamment toute la journée. Cela crée une distraction massive pour les conducteurs sur la route, et cela crée une charge de travail massive pour les entreprises de livraison pour examiner les vidéos. C'est beaucoup trop de travail pour le faire chaque semaine”, dénonce-t-il.

Pour rappel, un rapport paru en 2019 de l'institut AI Now de l'Université de New-York assurait que “l'IA menace non seulement de déplacer de manière disproportionnée les salariés les moins bien rémunérés, mais aussi de réduire les salaires, la sécurité de l'emploi et d'autres protections pour ceux qui en ont le plus besoin”.

Source : Motherboard