Sites Inria

Le 05.06.2015
Par :
Cyril Da (avec Citizen Press)

Qui a peur de l'intelligence artificielle ?

Depuis la création de l’expression “intelligence artificielle" dans les années 1950 après l'invention des premiers ordinateurs, la discipline maintes fois fantasmée par la fiction suscite débats scientifiques et éthiques. Entre peur apocalyptique du tout-mécanisé et ce qui est déjà une révolution en terme d'outils algorithmiques, chacun cherche son IA.
Dr. Johannes Sobotta - Atlas and Text-book of Human Anatomy Volume III Vascular System, Lymphatic system, Nervous system and Sense Organs An anatomical illustration from Sobotta's Human Anatomy 1908

Bande-annonce avec musique stressante : « Je crois que le développement d’une intelligence artificielle complète pourrait constituer la fin de la race humaine ». Le célèbre astrophysicien Stephen Hawking dixit (décembre 2014). À un tout autre niveau, de nombreux scientifiques co-signent début 2015 une lettre ouverte qui affirme en substance : « Étant donné le grand potentiel de l'intelligence artificielle il est important d'étudier comment la société peut profiter de ses bienfaits, mais aussi comment éviter ses pièges. » Ces récents propos ont ravivé un débat qui se nourrit de sciences mais aussi de visions symboliques (du Golem à Matrix en passant par la créature de Frankenstein). Or, pour de très nombreux chercheurs en informatique et algorithmique, il faut le dire et le répéter : le cerveau est une machine beaucoup plus sophistiquée que tout réseau d'ordinateurs actuel, et ce qu’il est possible de faire avec des algorithmes a ses propres limites.

Cela fait 45 ans que j'entends que l'intelligence artificielle va exister, ironise Gérard Berry, informaticien et médaille d’or du CNRS, dans un entretien au Point. Je ne pense pas voir de la vraie intelligence artificielle de mon vivant, à moins de se contenter de définitions très basses de la notion même d'intelligence ». Faut-il écouter les Cassandre ? « D'où tirent-ils leurs arguments, qu'ils ne développent d'ailleurs pas vraiment ? demande Gérard Berry. Le domaine est extrêmement difficile et la naïveté des observateurs fréquente : ils confondent vite leurs envies ou leurs craintes avec la réalité. »

 

Des progrès incontestables

Incontestablement, l’axe de recherche sur l’intelligence artificielle a beaucoup apporté à l’informatique : des concepts fondamentaux comme les langages fonctionnels, les langages objets, le traitement de l’image, l’interface homme-machine, etc. Et ce sont aussi ces progrès en la matière qui nourrissent les fantasmes.

Prenons le deep learning, ou « apprentissage profond ». Les algorithmes d’apprentissage profond utilisent les meilleurs outils de l'apprentissage automatique (machine learning, voir plus bas)  pour analyser les données. Si l’on compare à un cerveau, le rôle des neurones artificiels est joué par des blocs de code informatique qui exécutent des calculs élémentaires. Du calcul distribué de ces milliers de neurones artificiels va alors émerger un traitement de l'information complexe, qu'il eut été très difficile de programmer explicitement comme pour un logiciel usuel.

L’une des applications de l’apprentissage profond est de permettre à tout un chacun de dialoguer avec un ordinateur en langage naturel. Il n’y a qu’un pas à franchir pour assimiler le résultat du deep learning à un supercerveau à qui l’on cause! Mais pour cela, il serait indispensable d’inculquer à la machine une forme de « sens commun », de compréhension du monde… ce qui lui manque absolument.

« La reconnaissance de la parole ou le traitement de la langue écrite ont également avancé de manière considérable, explique Jean-Paul Haton, chercheur au sein de Loria/Inria. L’application Skype Translator de Microsoft est ainsi désormais capable de traduire en temps réel les conversations entre deux interlocuteurs en quatre langues… »

 « Ces dernières années, les recherches autour des différentes approches d’intelligence artificielle – systèmes à base de connaissances, réseaux neuronaux artificiels et modèles statistiques – et les évolutions technologiques ont permis d’accomplir des progrès conséquents dans de nombreux domaines, du jeu à la médecine, en passant par le militaire, le commerce électronique, le secteur des transports, la robotique ou la finance, souligne Jean-Paul Haton, dont l’équipe travaille sur la reconnaissance des formes et l’intelligence artificielle. On est loin des méchants systèmes d’IA des films américains.»

Autre exemple célèbre : le système Watson d’IBM (photo) a commencé sa carrière en tant que champion du jeu télévisé Jeopardy!... avant de faire équipe avec des médecins pour trouver des traitements personnalisés à certains cancers résultant de mutations génétiques spécifiques.

Watson d'IBM

« Je suis incapable de dire si une intelligence surhumaine existera un jour, ajoute Jean-Paul Haton. Pour l’instant l’intelligence artificielle cherche à exploiter au mieux les capacités toujours croissantes des machines pour aider l’être humain. Cela n’exonère pas les chercheurs de se préoccuper dès maintenant des questions éthiques et sociétales soulevées par leurs travaux. »

Fixer des limites, décider des valeurs

Précisément, les capacités et la rapidité croissantes des processeurs est aussi un élément qui peut impressionner. Peut-on encore garder le contrôle ? Pour Frédéric Alexandre, responsable de l’équipe de recherche Mnemosyne d’Inria, spécialisée dans les neurosciences, la réponse est oui et les détracteurs de l’IA se trompent de cible. « L’argumentaire porte essentiellement sur la puissance des ordinateurs, remarque-t-il. Or il n’y a là rien de nouveau sous le soleil ! Cela fait plusieurs décennies que les machines ont outrepassé les capacités humaines en termes de combinatoire et de mathématiques. À mes yeux les risques potentiels résident bien davantage dans les valeurs qu’on leur inculque. Par exemple dans ce que l’on appelle le Trading Haute Fréquence, les logiciels peuvent spéculer et décider de mouvement de capitaux en toute autonomie. Mais c’est l’homme qui les paramètre, qui détermine leurs motivations ! Si on dit à la machine qu’elle veut faire de l’argent à court terme, il ne faudra pas s’étonner si ses décisions vont à l’encontre des besoins humains. Parmi ceux qui ont signé la lettre ouverte je remarque une très forte représentation de sociétés qui, justement conçoivent des logiciels de ce type. Leur inquiétude est peut-être légitime mais c’est à eux-mêmes qu’ils devraient se poser les bonnes questions : quelles sont les valeurs et les limites qu’ils fixent à leurs algorithmes ? »

Futrama- Flickr

Le travail en danger ?

Directeur de recherche au CNRS et ancien délégué général scientifique d’Inria, Malik Ghallab, figure, quant à lui, dans la liste des signataires de la lettre ouverte de janvier. « Le débat sur l’intelligence artificielle a cristallisé les fantasmes d'une possible supra intelligence qui prendrait le pouvoir. J'ai signé cette lettre ouverte, qui met l'accent sur la nécessité d'un engagement socialement responsable des scientifiques, pour de toutes autres raisons. L'usage humain de toute technologie comporte des risques. Les technologies numériques (et pas seulement IA et Robotique) amplifient considérablement nos capacités sensorielles et cognitives; elles amplifient les rapports de force et les risques associés d'usage néfaste. Par ailleurs, ces technologies chamboulent la société à un rythme qu'elle ne peut suivre. Ainsi, la réduction des besoins de main d'oeuvre s'accélère et s'élargie à tous les secteurs: McKinsey estime les “gains” dus à ces technologies disruptives entre 40 à 75 millions d'emplois dans l'industrie et 110 à 140 millions dans les services d'ici à 2025 dans les pays de l'OCDE. Aujourd'hui, sans travail pas de partage des ressources, et sans partage nos sociétés s'écroulent ! Il est urgent de trouver d'autres modes d'organisation sociale. »

Valeurs, limites, éthique ? Une chose est sûre : ce ne sont pas les machines qui trancheront ces débats à notre place. « Fondamentalement, l’ordinateur et l’homme sont les deux opposés les plus intégraux qui existent, rappelait Gérard Berry à Rue89. L’homme est lent, peu rigoureux et très intuitif. L’ordinateur est super rapide, très rigoureux et complètement con. On essaie de faire des programmes qui font une mitigation entre les deux. Le but est louable. Mais de là à y arriver... » A défaut que les ordinateurs soient en position de nous dominer tous, faisons donc confiance à notre intuition et agissons afin que des humains ne les utilisent pas pour dominer d’autres humains.

L'intelligence artificielle, c'est pas du cinéma

Test de Turing : Eugene Goostman est-il intelligent ?

En 1950, Alan Turing (photo) inventait un test destiné à évaluer l’intelligence d’une machine au moyen d’une conversation par ordinateur interposé. Le principe : si au bout d’une conversation de 5 mn, plus de 30% des observateurs de la discussion sont incapables de deviner que l’interlocuteur est bel et bien une machine, alors cette dernière est considérée comme intelligente. En juin 2014, lors d’une compétition organisée par la Royal Society de Londres un programme informatique russe a réussi à faire croire à 33% de son auditoire qu’il était un adolescent de 13 ans, répondant au nom d’Eugene Goostman.  La machine aurait-elle rattrapé l’homme ? Pas si sûr : dans la foulée de l’événement beaucoup de voix se sont élevées pour souligner les limites de l’exercice, appelant notamment à ne pas confondre intelligence et aptitudes conversationnelles, remettant les fondements mêmes du test de Turing en question.

Intelligence artificielle, mythes et réalités

A lire sur Interstices, la revue de culture scientifique en ligne. Vous y apprendrez comment est né le programme informatique considéré comme la toute première intelligence artificielle de l’histoire.

Machine learning et intelligence artificielle – bonnet blanc et blanc bonnet ?

« Traditionnellement, le machine learning est considéré comme une brique de base de l’intelligence artificielle, rappelle Olivier Grisel, ingénieur expert dans l’équipe Parietal d’Inria. Et il est vrai que les techniques d’apprentissage automatique ont permis de faire des progrès considérables dans de nombreux domaines de l’intelligence artificielle comme la reconnaissance de la parole, la vision artificielle ou encore la traduction… Mais ce qui fait vraiment rêver aujourd’hui c’est une intelligence artificielle « singulière »… et là nous sommes encore loin du compte ! »  Sur ce terrain, ce sont les acteurs du deep learning – une branche du machine learning inspirée des réseaux de neurones – qui affichent les ambitions les plus élevées. « Pour l’heure, leurs algorithmes s’entrainent sur de vieux jeux Atari ou des problèmes de logique de CM2…  Mais ils commencent à être capables de raisonnement symbolique », ajoute Olivier Grisel.

Intelligences artificielles, meilleures ennemies d’Hollywood

Les intelligences artificielles sont-elles bêtes ou méchantes, amies ou ennemies ? La réponse dans cette playlist vidéo !

Avec par ordre d'apparition :

  • L’Odyssée de l’espace (1968) : Hal 9000, l’ordinateur de bord du vaisseau Discovery, devient vite le pire ennemi de l’équipage
  • Tron (1982) : Master Control Program, un logiciel de jeu d'échec doté d’un solide égo, emprisonne l’informaticien Kevin Flynn dans un programme en 3D
  • Matrix (1999) : Le monde est dominé par des machines qui se nourrissent de l'énergie produite par les humains, piégés dans la matrice
  • I, Robot (2004) : pour protéger l’humanité, VIKI, l'ordinateur central d’une puissante corporation de robots décide de mettre au pas les humains
  • Her (2013) : Pour Théodore, le logiciel Samantha est d’abord une consolatrice, une confidente. Peu à peu il tombe amoureux de cet être désincarné
  • Terminator (1984-2015) : Initialement conçu pour piloter la défense américaine, le logiciel Skynet décide de prendre le contrôle de la planète

Conclusion : une briseuse de cœur, deux prisons virtuelles, deux maîtres du monde et un assassin psychotique ! À Hollywood, le bilan des IA n’est pas flatteur.

N’hésitez pas à nous proposer d’autres exemples, ou contre-exemples, dans les commentaires. Vos suggestions seront relues par une intelligence non artificielle.

Propulsé par