Voiture autonome : les robotaxis Cruise voyaient mal les enfants mais roulaient quand même

D’après des documents internes, les équipes de Cruise, entreprise de robotaxis, savaient que leurs véhicules présentaient un danger potentiel pour les enfants. Ils ont continué à rouler malgré tout. Une autre défaillance majeure a également été révélée.

Lors de son rachat par le constructeur automobile General Motors pour 1,1 milliard de dollars, le futur s’annonçait radieux pour Cruise. L’entreprise spécialisée dans les véhicules autonomes met au point dans les années qui suivent une flotte de robotaxis. Des voitures sans conducteur circulant au même titre que les autres. Assez rapidement, plusieurs villes américaines voient débarquer ces taxis d’un nouveau genre et au début, tout se passe bien.

C’est alors que les problèmes s’accumulent. Certains sont notables, comme en juin dernier où un robotaxi gêne l’intervention des secours après une fusillade. Ce n’est que la partie émergée de l’iceberg puisqu’on recense au total des milliers d’incidents liés à ce type de véhicules depuis leur mise en circulation sur le territoire américain. La goutte d’eau est atteinte fin octobre. Un chauffard percute de plein fouet une piétonne et la propulse sur la trajectoire d’un robotaxi. Il la repère, freine, mais pas assez. La victime termine sous les roues de la voiture. Cette dernière enclenche sa procédure post accident et se range sur le bas côté… en traînant la femme sur 6 mètres. Cruise se voit retirer sa licence d’exploitation en Californie et décide de cesser toute opération aux États-Unis.

Cruise savait que ses robotaxis présentaient un danger pour les enfants

Même si plus aucun taxi autonome Cruise ne circule à l’heure actuelle, l’entreprise n’est pas au bout de ses peines. Selon des documents internes consultés par les journalistes de The Intercept, la compagnie était au courant que ses véhicules avaient du mal à reconnaître les enfants. En théorie, ils doivent enclencher des mesures de sécurité supplémentaires quand ils en repèrent. Mais dans certaines circonstances, le système embarqué ne les “voit” pas. Une note indique que Cruise s’inquiète de plusieurs situations pour lesquelles elle manque de données : un enfant qui échappe à ses parents et court brusquement sur la route, un enfant à vélo, ou encore un enfant portant un déguisement.

Lire aussi – Les voitures autonomes repèrent beaucoup moins bien ces deux types de piétons selon une étude

Les simulations faites en interne ne rassurent pas. “Sur la base des résultats […], nous ne pouvons pas exclure qu’un véhicule entièrement autonome aurait heurté l’enfant.”, lit-on sur un mémo. Dans un autre test, le robotaxi identifie bien un enfant en bas-âge mais le percute tout de même avec son rétroviseur à 45 km/h. Cruise a plusieurs fois constaté ces risques et même leur augmentation à mesure que la firme améliorait son système de navigation, malgré les tentatives d’y remédier. Durant l’été, l’entreprise constate que les robotaxis perdent parfois la trace des enfants sur le côté de la route. Un “bug” corrigé et rencontré uniquement en test d’après elle, mais sans préciser depuis combien de temps il existait.

Les robotaxis de Cruise ne détectaient pas bien les trous dans la route, même quand des ouvriers s’y trouvaient

Autre souci majeur visiblement passé sous silence : le repérage des trous sur la route. Cruise est au courant depuis au moins un an, toujours d’après des documents internes. En se basant sur la taille de sa flotte, la société estime qu’un de ses robotaxis tombera dans un trou inoccupé une fois par an, et une fois tous les 4 ans dans un trou de chantier où des ouvriers sont présents. Ce n’est pas qu’une hypothèse. Une vidéo de test montre une voiture autonome de la marque rouler vers un tel trou alors que des cônes orange le signalent. Elle s’arrête brusquement, à quelques centimètres des ouvriers travaillant ce jour-là.

Lire aussi – Des voitures autonomes créent un immense embouteillage à cause du brouillard

Pour diminuer les risques, Cruise a préféré restreindre le nombre de véhicules en circulation simultanément. Lorsque cette décision a été annoncée par la compagnie, il n’est fait aucune mention des dangers potentiels liés aux enfants. Un porte-parole précise toutefois qu’elle a été prise en tenant compte de multiples facteurs et qu’il ne faut pas la réduire au comportement du système de conduite autonome.

L’identification des enfants et le repérage des trous n’étaient pas les seules avaries repérées par Cruise. Certaines voitures faisaient ce qu’on appelle aux États-Unis un “virage à gauche sans protection”. C’est à dire tourner à gauche à une intersection sans l’aide d’un feu ou d’un stop qui permet de savoir qui a la priorité. Normalement, les robotaxis Cruise sont programmés pour ne jamais le faire. Même si tous ces déboires ne concernent qu’une seule entreprise, ils montrent bien que malgré les avancées technologiques, nous sommes encore loin d’un futur où toutes les voitures circuleront sans notre aide.