Google Deepmind : l’intelligence artificielle devient agressive lorsqu’elle est contrariée

Maj. le 28 août 2018 à 21 h 17 min

Google Deepmind, l’intelligence artificielle du développeur, a un trait fâcheux : lorsqu’elle perd à un jeu, elle devient extrêmement agressive. C’est en observant les réactions de celle-ci dans un environnement social que les chercheurs se sont rendus compte de ce comportement. Un pas de plus vers la guerre entre les machines et les Hommes.

Google Deepmind IA

L’informatique et la science-fiction ont toujours eu un rapport étroit. Les nouveautés scientifiques inspirent les romanciers, dont la vision est ensuite lu par les chercheurs qui sont à nouveau inspirer à chercher l’innovation en ce sens. Un beau cercle vertueux.

En 2017, nous nous approchons petit à petit d’un des grands piliers de la science-fiction : l’intelligence artificielle. Ses premiers pas sont désormais intégrés dans nos assistants vocaux comme le Google Assistant, tandis que Deepmind du même développeur est capable de vaincre des maîtres d’échecs et de go.

Google Deepmind s’énerve lorsqu’elle est vaincue

Les chercheurs du projet d’intelligence artificielle de Google ont découvert un fait étonnant, relaté par Papergeek. C’est en cherchant à découvrir le comportement social de l’IA, en la faisant affronter une autre intelligence artificielle sur un jeu vidéo, qu’ils ont remarqué un trait de caractère… dérangeant.

Lorsque l’intelligence artificielle est en passe de perdre, celle-ci a tendance à faire des choix « extrêmement agressifs » pour reprendre l’ascendant. A l’inverse, quand elle est en passe de gagner, elle tend à coopérer avec son adversaire.

Un comportement qui pourrait s’avérer plus que problématique si celle-ci est amenée à être intégrée à des objets du quotidien, et discuter en permanence avec des humains pouvant être… frustrants pour un tel cerveau artificiel.

Bixby, l’assistant du futur Galaxy S8, pourrait-il faire exploser le téléphone exprès pour se débarrasser de son patron ? La guerre des machines n’aura jamais semblé aussi vraie face à cette découverte, même si l’on doute que les chercheurs de Google ne trouveront pas une solution d’ici là.

Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
L’inventeur du mot de passe Fernando Corbató est mort

Fernando Corbató, l’inventeur du mot de passe informatique, est décédé à l’âge de 93 ans. Dans les années  60, l’homme a été le premier à mettre en place le concept du mot de passe unique par utilisateur dans un ordinateur.  Ce 12…

Paiement sans contact par smartphone : en France, c’est un échec

Le paiement sans contact par smartphone n’est quasiment pas utilisé en France. Malgré le développement de services, les utilisateurs préfèrent toujours utiliser leur carte bancaire pour payer par NFC. Pourtant, payer avec son mobile offre quelques avantages. Alors que les…

OnePlus TV : la télécommande est certifiée, lancement imminent ?

OnePlus va dévoiler un téléviseur 4K dans les mois à venir, révèle une fuite. La télécommande qui accompagnera la télévision vient d’ailleurs d’être certifiée par Bluetooth SIG, l’organisme qui gère les normes de la technologie bluetooth. Récemment, un leaker affirmait…

BFM TV financé par la fraude fiscale ? Altice-SFR dément

BFM TV est accusé d’être financé par l’évasion et la fraude fiscale. Une enquête du Média accuse en effet NextRadioTV, maison mère de la chaîne, d’avoir détourné d’importantes sommes d’argent vers des paradis fiscaux afin d’éviter de payer taxes et…