Pourquoi avons nous peur de l’intelligence artificielle ?

de | 26 mars 2016

Stephen Hawking, Elon Musk, Bill gates et j’en passe… De grands noms qui nous préviennent des risques encourus par l’humanité avec l’intelligence artificielle. Pourquoi avons nous autant peur d’être surclassé par nos propres créations ?

robots-vs-humains

La première chose à laquelle j’ai pensé avec tous ces débats sur l’intelligence artificielle, c’est au livre « Pourquoi j’ai mangé mon père » de Roy Lewis. Ce livre raconte l’histoire d’une famille préhistorique dont le père est toujours à l’affût d’innovation. Sa plus grande découverte, la maîtrise du feu, divisera la communauté. Certains pensent en effet que le feu leur permettra d’évoluer et d’augmenter leurs capacités. D’autres pensent que le feu les détruira tous.

De quoi avons nous peur ?

Les arguments utilisés avec l’intelligence artificielle sont toujours les mêmes. Il en existe principalement deux :

  • La fin de l’humanité. La grande peur étant de donner trop de pouvoir aux machines, notamment via des armes de guerre, qu’elles deviennent autonomes et décident de nous détruire ou de nous asservir. Scénario mainte et mainte fois imaginé dans le domaine de la science fiction (Terminator, Matrix…).
  • L’affaiblissement intellectuel de l’humanité, son surclassement. A force d’avoir tout à porté de main, de ne plus avoir besoin de travailler, de se battre, de réfléchir puisque des robots s’en chargent pour nous, le risque est de devenir faible et inutile, complètement dépendant de la technologie. Certains y voient la fin du couple avec les robots sexuels, d’autres la fin du monde du travail et une génération de zombies collés à leur écran.

A ce propos une image circule sur les réseaux sociaux : »I fear the day that technology will surpass our human interaction. The world will have a generation of IDIOTS » aurait dit Einstein.

Image-Einstein_2013-01-08

Ce qui donne : « Je crains le jour où la technologie dépassera l’homme. Le monde aura une génération d’idiots. »

Sauf que cette citation est fausse (Einstein est mort avant le gros boom du numérique, à cette époque  la grande peur ne venait pas du tout de là, mais de l’atomique).

Chaque grande invention ou découverte a créé ses peurs, ce fut le cas du feu, de l’électricité, d’internet, de l’intelligence artificielle.

Qu’est ce que l’intelligence artificielle ?

Il existe deux types d’intelligence artificielle, la faible et la forte. La faible est celle que tout le monde connait, celle qui existe actuellement. Pour prendre l’exemple le plus récent, celle qui a permis de vaincre le joueur de Go professionnel avec l’algorithme de Google AlphaGo.

La forte est une intelligence artificielle capable d’avoir conscience d’elle même. Et donc capable de sortir de son champs de programmation. Mettez AlphaGo devant un jeu d’échec et il perdra contre un enfant de 6 ans. Car AlphaGo ne réfléchi pas, il calcule comme le ferait une calculette. La prouesse est purement technique.

L’intelligence artificielle dans un jeu d’échec

Pour un jeu d’échec, l’algorithme du min max, ou de l’alpha beta suffise à donner une impression d’intelligence. Ces algorithmes sont pourtant très simples et fonctionnent de la sorte :

  1. L’IA liste tous les coups possibles, attribue une note à chaque jeu
  2. Pour chaque coup listé, elle liste toutes les réponses possibles de l’adversaire, et attribue de nouveau une note au jeu, et ne choisi que les plus fortes (l’adversaire ne jouera que les coups qui l’avantagent)
  3. L’IA reliste tous les coups possibles à partir des réponses possibles de l’adversaire etc…

Nous obtenons donc un arbre de donnée qui ressemble à ça :

alfa-beta

Dans cet exemple nous avons 3 coups possibles à chaque fois. L’arbre est d’autant plus large que le nombre possible de coup est grand, et d’autant plus haut que le nombre de simulation est grand. Le niveau de difficulté d’un jeu d’échec vient principalement de là. En facile l’IA ira calculer par exemple sur 3 niveaux (IA joue, adversaire joue, IA joue), en moyen elle ira calculer sur 5 niveaux et en difficile sur 7.

Plus l’IA calcule loin, plus elle est forte, mais plus le temps de calcul est long. Et c’est là la principale difficulté dans la programmation d’une IA.

L’intelligence artificielle d’AlphaGo

L’algorithme Alpha Beta est insuffisant pour le jeu de Go. Tous simplement parce que les ordinateurs ne sont pas assez puissants pour des calculs aussi colossaux.

Il suffit d’analyser un début de partie d’échec. Il existe pour le premier mouvement 20 coups possibles (chaque pion peut avancer de un ou deux, ce qui fait 16, et les cavaliers peuvent avancer sur deux cases différentes, ce qui fait 20). Pour le jeu de go il existe pour le premier mouvement, 361 coups possibles, puis 360 pour le deuxième.

go

Sur quatre coups, ce qui est peu, on obtient déjà 16 702 719 120 combinaisons. Le jeu de Go étant un jeu se jouant sur un profondeur très grande, une IA de ce type n’a que peu de chance d’être efficace. Il a donc fallu utiliser une des techniques les plus puissantes, le Deep learning, qui fonctionne comme un réseau de neurone.

Le principe est en simplifiant de « reconnaître » une situation. Le cerveau humain fonctionne comme ça. Quand vous jouez au échec vous vous dites : Je me souviens la dernière fois j’avais mis ma dame ici et il m’avait mis échec et mat 3 tours plus tard. Je vais donc faire attention et ne plus la jouer comme ça. C’est une réflexion purement humaine basée sur l’apprentissage de ses erreurs.

Le Deep learning est identique, et pour cela il faut injecter à l’IA des millions de partie, et l’entraîner en la faisant jouer contre elle même des millions de fois. Au bout d’un moment elle sera capable de reconnaître des situations et de se diriger vers une solution plutôt qu’une autre. Après chaque partie l’IA est donc plus forte. Ce qui n’est pas le cas de l’algorithme Alpha Beta en lui même, qui n’apprend rien.

Seulement l’IA n’apprend que ce qu’on lui donne. Elle est incapable d’aller chercher par elle même les informations et de les trier. C’est pourquoi l’intelligence Artificielle de Microsoft, Tay, basée sur un réseau de neurone et du deep learning également, a du être désactivée dès la première journée de son lancement. Incapable de trier et contrôler les informations que les utilisateurs lui fournissaient, l’IA est passée en moins de 24 heures de la personnalité de celle d’un philanthrope à celle d’un néo nazi.

 

Le chemin est encore très long pour passer d’une IA de type faible à une de type forte, capable d’analyser et de croiser ses connaissances pour résoudre un problème inédit. Cependant les progrès réalisés ces dernières années sont indéniables et certains parlent de 2050 pour voir l’émergence d’une véritable IA au sens propre du terme, ce qui n’est pas si éloigné que ça.

Une réflexion au sujet de « Pourquoi avons nous peur de l’intelligence artificielle ? »

  1. tuxun

    Bonjour il me semble important de remarquer que la peur ne vient pas de l’AI, mais de l’usage qui en est fait.
    Exemple; une voiture autonome risquera t’elle la vie de son propriétaire retraité pour sauver celle d’un enfant traversant la route?
    Comment inculqué de la morale a une AI?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *