L’intelligence artificielle va renforcer la cybercriminalité, le terrorisme et la surveillance de masse, selon des experts

Maj. le 21 février 2018 à 19 h 18 min

L’intelligence artificielle peut-elle nous porter préjudice ? Un nouveau rapport d’experts s’inquiète de toutes les dérives qu’elle peut permettre : cybercriminalité, terrorisme, surveillance de masse… autant de menaces qui peuvent se renforcer en utilisant l’IA à mauvais escient. Son potentiel est gigantesque, mais il faut agir pour ne pas le rendre destructeur.

intelligence artificielle

L’intelligence artificielle, danger pour l’humanité ? Un rapport intitulé « Utilisation Malicieuse de l’Intelligence Artificielle » et rédigé par des experts académiques et industriels lance un appel aux gouvernements pour les encourager à prendre des mesures pour délimiter un cadre aux possibilités de l’IA. Le document liste une série de risques liés à son développement, et c’est effectivement du sérieux.

D’un point de vue militaire, le rapport craint que les voitures autonomes puissent être utilisées comme des armes qu’on lancerait contre des cibles. Est également mentionné le cas des drones, qui pourraient verrouiller une cible spécifique grâce à la reconnaissance faciale. Des applications qui posent un énorme problème éthique, estiment les experts. Ils prennent même l’exemple d’un robot ménager transportant une bombe sur les ordres de terroristes et qui serait programmé pour identifier et attaquer le président d’un État.

Intelligence Artificielle : cybercriminalité, terrorisme et surveillance de masse peuvent en profiter

Autre danger pointé du doigt, la cybercriminalité. Des IA pourraient être utilisées pour mettre en place de grandes offensives de hacking sophistiquées à des vitesses incroyables. Si elles deviennent trop performantes par rapport aux humains, elles pourraient être utilisées avec de mauvaises intentions et il serait alors très compliqué de répondre à leurs attaques.

L’IA peut aussi être exploitée par les gouvernements autoritaires pour rendre leur surveillance de masse plus efficace, mais aussi pour créer et diffuser de manière automatique des campagnes de propagande ciblées. Une menace grave pour la démocratie alors que les scandales entre réseaux sociaux, IA et élections politiques se multiplient (Trump/Clinton, Macron/Le Pen, Brexit).

« Nous pensons qu’il y a des raisons de s’attendre à des attaques rendues possibles par l’utilisation croissante de l’IA et qui seraient particulièrement efficaces, finement ciblées, difficiles à attribuer à leurs auteurs et potentiellement capables d’exploiter les vulnérabilités des systèmes d’IA« , peut-on lire dans le rapport. Comme l’a dit le PDG de Google Sundar Pichai, l’IA pourrait être aussi importante que le feu et l’électricité, mais pas dans le sens dans lequel il l’entendait.

Ce n’est pas la première fois que l’IA est pointé du doigt pour sa dangerosité. Dans un autre registre, Elon Musk affirme que l’intelligence artificielle va éradiquer la race humaine, qui ne parviendra pas à garder le contrôle. Une théorie qui avait pris du poids lorsqu’on apprenait que Google Brain avait réussi à créer une IA capable de créer elle-même d’autres IA. Et vous, qu’en pensez-vous ? Devons-nous nous méfier des IA ? De nouvelles lois doivent-elles apparaître pour mieux les encadrer ? L’humanité peut-elle être mise en danger ?

Réagissez à cet article !
  • Mathieu

    Si on crée une IA, dans l’esprit et les habitudes qu’on a tous aujourd’hui, c’est sûr, ça va pas être joli joli..

Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !