À l’hôpital, l’IA confond les organes et crée des complications lors d’opérations

De plus en plus de rapports poussent à s'interroger sur la place de l'intelligence artificielle dans le milieu médical. Est-elle vraiment prête à intégrer le quotidien des praticiens ?

Nous parlons régulièrement des avancées permises par l'intelligence artificielle dans le secteur de la médecine. Les exemples ne manquent pas : l'une peut repérer des tumeurs qu'un humain aurait manqué quasiment à coup sûr, l'autre analyse votre sommeil pour détecter les premiers symptômes d'une centaine de maladies… Sur le papier, ce n'est que du positif. D'ailleurs, il existe de nombreux appareils médicaux homologués intégrant de l'IA et déjà utilisés dans les hôpitaux.

Dans les faits, la réalité est bien plus noire qu'attendue. Aux États-Unis, les plaintes se multiplient à l'encontre des hôpitaux et cliniques suite à des malfonctionnements supposés de ces appareils. Chaque fois, l'intelligence artificielle est pointée du doigt. Elle est rendue responsable de complications parfois sévères chez les patients impactés. Parmi les systèmes mentionnés, on trouve entre autres le Système de Navigation TruDi. Il est utilisé depuis environ 3 ans.

L'intégration de l'IA dans le milieu médical ne serait pas encore au point

TruDi se sert de l'IA pour donner le chemin le plus court entre deux points définis par le chirurgien. Il est utilisé dans une machine servant à traiter les sinusites chroniques, qui sont une inflammation des sinus. Dans plusieurs plaintes, l'IA est accusée d'avoir mal indiqué la position des instruments chirurgicaux dans le corps du patient. Dans au moins deux cas, une artère a été endommagée, provoquant des accidents vasculaires cérébraux graves.

Une autre IA, Sonio, utilisé dans les échographies prénatales, aurait mal associé les structures du fœtus, ce qui aboutit à leur mauvaise association avec des parties du corps. La majorité des plaintes sont toujours en cours. De son côté, la Food and Drug Administration américaine (FDA), qui autorise la mise sur le marché des appareils, reste très prudente. Pour le moment, rien ne permet d'affirmer que l'IA est responsable.

On apprend également que pour faire approuver une machine médicale avec IA, il est rarement nécessaire de la tester sur des êtres humains. Les fabricants se contentent de la présenter comme une mise à jour d'un appareil déjà en circulation. La FDA possède des équipes spécialisées dans l'intelligence artificielle. Mais toutes se sont vu amputer de nombreux membres suite aux coupes budgétaires de l'administration Trump. Un ancien employé prévient : “Si vous n'avez pas les ressources nécessaires, vous risquez davantage de passer à côté de certaines choses“.

Source : Reuters