Google Deepmind : l’intelligence artificielle devient agressive lorsqu’elle est contrariée

Maj. le 28 août 2018 à 21 h 17 min

Google Deepmind, l’intelligence artificielle du développeur, a un trait fâcheux : lorsqu’elle perd à un jeu, elle devient extrêmement agressive. C’est en observant les réactions de celle-ci dans un environnement social que les chercheurs se sont rendus compte de ce comportement. Un pas de plus vers la guerre entre les machines et les Hommes.

Google Deepmind IA

L’informatique et la science-fiction ont toujours eu un rapport étroit. Les nouveautés scientifiques inspirent les romanciers, dont la vision est ensuite lu par les chercheurs qui sont à nouveau inspirer à chercher l’innovation en ce sens. Un beau cercle vertueux.

En 2017, nous nous approchons petit à petit d’un des grands piliers de la science-fiction : l’intelligence artificielle. Ses premiers pas sont désormais intégrés dans nos assistants vocaux comme le Google Assistant, tandis que Deepmind du même développeur est capable de vaincre des maîtres d’échecs et de go.

Google Deepmind s’énerve lorsqu’elle est vaincue

Les chercheurs du projet d’intelligence artificielle de Google ont découvert un fait étonnant, relaté par Papergeek. C’est en cherchant à découvrir le comportement social de l’IA, en la faisant affronter une autre intelligence artificielle sur un jeu vidéo, qu’ils ont remarqué un trait de caractère… dérangeant.

Lorsque l’intelligence artificielle est en passe de perdre, celle-ci a tendance à faire des choix « extrêmement agressifs » pour reprendre l’ascendant. A l’inverse, quand elle est en passe de gagner, elle tend à coopérer avec son adversaire.

Un comportement qui pourrait s’avérer plus que problématique si celle-ci est amenée à être intégrée à des objets du quotidien, et discuter en permanence avec des humains pouvant être… frustrants pour un tel cerveau artificiel.

Bixby, l’assistant du futur Galaxy S8, pourrait-il faire exploser le téléphone exprès pour se débarrasser de son patron ? La guerre des machines n’aura jamais semblé aussi vraie face à cette découverte, même si l’on doute que les chercheurs de Google ne trouveront pas une solution d’ici là.



Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
Citroen AMi : Kia veut aussi sa petite citadine électrique et économique

À l’occasion d’une interview, le directeur général de Kia Motors Europe a confirmé l’intention de la marque d’investir dans le segment des petites voitures urbaines, citant l’AMI de Citroën comme exemple. Il souhaite développer un modèle économique qui offrirait la…

Voiture électrique : l’UE veut lever la TVA pour booster les ventes

Dans le cadre du plan de relance économique européen, une aide fiscale pourrait être accordée pour l’achat d’un véhicule propre, électrique ou hybride. Parmi les mécanismes évoqués, des exonérations de TVA pourraient notamment être accordées. Le ministre français de l’Économie,…

Android 11 appellera la 4G++ « 5Ge » et la 5G mmWave « 5G+ »

Android 11 va introduire une nouvelle convention de nommage pour les réseaux mobiles. Au risque de brouiller les lignes entre les technologies 4G et 5G. On le découvre sur le blog développeurs officiel Android 11 : la prochaine version du…

Ford invente une couverture solaire qui recharge les voitures électriques

Ford imagine et brevète une couverture solaire pour recharger ses véhicules électriques. Installée sur le toit, elle pourrait recouvrir entièrement le véhicule, et procéder au rechargement des batteries grâce à l’énergie solaire.  Décidément, Ford se montre des plus créatifs depuis…

DirectX 12 : Microsoft va porter sa technologie graphique sur Linux !

Microsoft explique sur son blog qu’il va porter une version de DirectX 12 sur Linux. Le changement doit permettre la prise en charge de l’accélération graphique pour les applications du sous-système Linux de Windows 10. Cela devrait également déboucher sur…

Amazon rouvre enfin ses entrepôts en France

Mise à jour du mercredi 20 mai 2020 Amazon a finalement rouvert les portes de ses six entrepôts français ce mardi 19 mai 2020. Dans un communiqué de presse, la filiale française se félicite « que le dialogue avec les représentants…