L’Europe veut interdire l’usage d’une IA pour la surveillance de masse

La Commission européenne s'apprête à dévoiler un nouvel ensemble de réglementations pour les produits disposant d’une intelligence artificielle. Si les nouvelles réglementations sont adoptées, elles pourraient limiter les dommages potentiels causés par les systèmes à base d'IA.

L'Union européenne veut éviter le pire de ce que l'intelligence artificielle peut faire, tout en essayant de stimuler son potentiel pour l'économie en général. On peut penser à l'effrayante technologie de reconnaissance faciale et aux nombreux autres épisodes de Black Mirror qui mettent en scène différentes IA.

Les entreprises qui ne s'y conformeraient pas pourraient se voir infliger une amende allant jusqu'à 20 millions d'euros ou 4 % de leur chiffre d'affaires. Cependant, dans notre pays, on sait que la surveillance de masse des Français dirige la France vers un clash avec l’Europe. La Commission dévoilera son règlement final le 21 avril.

Que contiendra le règlement de la Commission européenne ?

Alors que certaines technologies d'IA seraient purement et simplement interdites, d'autres systèmes potentiellement dangereux seraient soumis à un processus de vérification avant que les développeurs ne puissent les proposer au grand public. Selon une ébauche de ses futures règles, obtenue par POLITICO, la proposition de l'UE devrait inclure les règles suivantes :

Les systèmes d'IA utilisés pour manipuler le comportement humain, exploiter des informations sur des individus ou des groupes d'individus, utilisés pour effectuer du scoring social ou pour une surveillance indiscriminée seraient tous interdits dans l'UE. Certaines exceptions liées à la sécurité publique s'appliqueraient.
Les systèmes d'identification biométrique à distance utilisés dans les lieux publics, comme la reconnaissance faciale, nécessiteraient une autorisation spéciale des autorités.
Les applications d'IA considérées comme “à haut risque” devront être soumises à des inspections avant d'être déployées, afin de garantir que les systèmes sont formés sur des ensembles de données impartiaux, de manière traçable et avec une supervision humaine.
L'IA à haut risque concernerait les systèmes susceptibles de mettre en danger la sécurité, la vie ou les droits fondamentaux des personnes, ainsi que les processus démocratiques de l'UE – comme les voitures offrant la conduite autonome et la chirurgie à distance, entre autres.
Certaines entreprises seront autorisées à procéder elles-mêmes à des évaluations, tandis que d'autres seront soumises à des contrôles effectués par des tiers. Les certificats de conformité délivrés par les organismes d'évaluation seront valables jusqu'à cinq ans.
Les règles s'appliqueront de la même manière aux entreprises établies dans l'UE ou à l'étranger.

L’Europe veut éviter la mise en place d’un système de crédit social

Dans ces règles, on apprend que l’Europe veut éviter la mise en place d’un système de crédit social, comme on peut trouver en Chine. Il s’agit d’un système national de réputation des citoyens et entreprises, qui attribue à chacun d'entre eux une note, échelonnée entre 350 et 950 points. Le système, qui repose sur des outils de surveillance globale et de surveillance de masse.

En Chine, les autorités déduisent des points en cas de mauvais comportements, comme les infractions au Code de la route, et ajoutent des points pour les bons comportements, comme les dons à des œuvres caritatives. Il existe même un système de liste noire, qui peut vous faire perdre certains droits si vous devez par exemple de l’argent au gouvernement. L’interdiction d’un tel système et de la surveillance de masse par l’Union européenne constitue une bonne nouvelle pour les citoyens soucieux de leur vie privée. Néanmoins, la surveillance de masse des réseaux sociaux a récemment été validée par le Conseil Constitutionnel pour mieux lutter contre la fraude fiscale.

Source : The Verge