Google Deepmind : l’intelligence artificielle devient agressive lorsqu’elle est contrariée

Maj. le 28 août 2018 à 21 h 17 min

Google Deepmind, l’intelligence artificielle du développeur, a un trait fâcheux : lorsqu’elle perd à un jeu, elle devient extrêmement agressive. C’est en observant les réactions de celle-ci dans un environnement social que les chercheurs se sont rendus compte de ce comportement. Un pas de plus vers la guerre entre les machines et les Hommes.

Google Deepmind IA

L’informatique et la science-fiction ont toujours eu un rapport étroit. Les nouveautés scientifiques inspirent les romanciers, dont la vision est ensuite lu par les chercheurs qui sont à nouveau inspirer à chercher l’innovation en ce sens. Un beau cercle vertueux.

En 2017, nous nous approchons petit à petit d’un des grands piliers de la science-fiction : l’intelligence artificielle. Ses premiers pas sont désormais intégrés dans nos assistants vocaux comme le Google Assistant, tandis que Deepmind du même développeur est capable de vaincre des maîtres d’échecs et de go.

Google Deepmind s’énerve lorsqu’elle est vaincue

Les chercheurs du projet d’intelligence artificielle de Google ont découvert un fait étonnant, relaté par Papergeek. C’est en cherchant à découvrir le comportement social de l’IA, en la faisant affronter une autre intelligence artificielle sur un jeu vidéo, qu’ils ont remarqué un trait de caractère… dérangeant.

Lorsque l’intelligence artificielle est en passe de perdre, celle-ci a tendance à faire des choix « extrêmement agressifs » pour reprendre l’ascendant. A l’inverse, quand elle est en passe de gagner, elle tend à coopérer avec son adversaire.

Un comportement qui pourrait s’avérer plus que problématique si celle-ci est amenée à être intégrée à des objets du quotidien, et discuter en permanence avec des humains pouvant être… frustrants pour un tel cerveau artificiel.

Bixby, l’assistant du futur Galaxy S8, pourrait-il faire exploser le téléphone exprès pour se débarrasser de son patron ? La guerre des machines n’aura jamais semblé aussi vraie face à cette découverte, même si l’on doute que les chercheurs de Google ne trouveront pas une solution d’ici là.

Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
Huawei exhorte les Etats-Unis à ne pas sous-estimer la firme

Le PDG de Huawei Ren Zhengfei relativise dans une déclaration accordée à un journal chinois l’effet du décret américain. Selon le responsable, Huawei s’est bien préparé à cette éventualité – et le sursis de 90 jours que la Maison Blanche…

Tesla risque la faillite dans moins d’un an, assure Elon Musk

Elon Musk estime que Tesla risque de faire faillite dans moins d’un an si des mesures extrêmes ne sont pas prises. Afin de sauver le constructeur automobile, le dirigeant a donc annoncé une importante réduction des dépenses du groupe. Il espère ainsi parvenir…

Microsoft Paint sur Windows 10 reçoit de nouvelles fonctionnalités

Microsoft Paint n’est pas mort. L’application de dessin bénéficie même d’une mise à jour qui lui ajoute de nouvelles fonctionnalités d’accessibilité. Elles seront disponibles dans la mise à jour Windows 10 de mai 2019. Avec ces nouvelles options, le clavier…

Wikipédia est désormais banni en Chine, dans toutes les langues

Wikipédia n’est plus accessible en Chine. Le gouvernement chinois a décidé de bannir intégralement l’encyclopédie en ligne qui subissait déjà des mesures restrictives. Il n’est désormais plus possible d’y accéder dans l’Empire du Milieu, quelle que soit la langue utilisée….