Google Deepmind : l’intelligence artificielle devient agressive lorsqu’elle est contrariée

 

Google Deepmind, l'intelligence artificielle du développeur, a un trait fâcheux : lorsqu'elle perd à un jeu, elle devient extrêmement agressive. C'est en observant les réactions de celle-ci dans un environnement social que les chercheurs se sont rendus compte de ce comportement. Un pas de plus vers la guerre entre les machines et les Hommes.

Google Deepmind IA

L'informatique et la science-fiction ont toujours eu un rapport étroit. Les nouveautés scientifiques inspirent les romanciers, dont la vision est ensuite lu par les chercheurs qui sont à nouveau inspirer à chercher l'innovation en ce sens. Un beau cercle vertueux.

En 2017, nous nous approchons petit à petit d'un des grands piliers de la science-fiction : l'intelligence artificielle. Ses premiers pas sont désormais intégrés dans nos assistants vocaux comme le Google Assistant, tandis que Deepmind du même développeur est capable de vaincre des maîtres d'échecs et de go.

Google Deepmind s'énerve lorsqu'elle est vaincue

Les chercheurs du projet d'intelligence artificielle de Google ont découvert un fait étonnant, relaté par Papergeek. C'est en cherchant à découvrir le comportement social de l'IA, en la faisant affronter une autre intelligence artificielle sur un jeu vidéo, qu'ils ont remarqué un trait de caractère… dérangeant.

Lorsque l'intelligence artificielle est en passe de perdre, celle-ci a tendance à faire des choix “extrêmement agressifs” pour reprendre l'ascendant. A l'inverse, quand elle est en passe de gagner, elle tend à coopérer avec son adversaire.

Un comportement qui pourrait s'avérer plus que problématique si celle-ci est amenée à être intégrée à des objets du quotidien, et discuter en permanence avec des humains pouvant être… frustrants pour un tel cerveau artificiel.

Bixby, l'assistant du futur Galaxy S8, pourrait-il faire exploser le téléphone exprès pour se débarrasser de son patron ? La guerre des machines n'aura jamais semblé aussi vraie face à cette découverte, même si l'on doute que les chercheurs de Google ne trouveront pas une solution d'ici là.



Abonnez-vous gratuitement à la newsletter
Chaque jour, le meilleur de Phonandroid dans votre boite mail !
Réagissez à cet article !
Demandez nos derniers articles !
samsung tv google assistant
Samsung annonce l’arrivée de Google Assistant sur certaines Smart TV

Samsung vient d’annoncer l’arrivée de Google Assistant sur certaines Smart Tv de son catalogue. L’assistant vocal de Google rejoindra ainsi Bixby, l’assistant “intelligent” maison de Samsung, et Amazon Alexa. Cette nouveauté est réservée à certains téléviseurs du catalogue de la…

top 200 pires mots passe 2020
Voici le top 200 des pires mots de passe de 2020

Le top 200 des pires mots de passe de l’année 2020 est désormais disponible. Comme tous les ans, l’indémodable 123456 arrive en tête du classement. Parmi les thématiques favorites des internautes, on trouve le divertissement, les grossièretés, les prénoms ou les suites de chiffres….