Le mythe de la Singularité

Ils sont plusieurs, tous scientifiques de renom dans leur discipline, de l’astrophysicien Stephen Hawking au physicien et prix Nobel Frank Wilczek, à avoir lancé un cri d’alerte, afin de nous mettre en garde de l’imminence du danger qui s’annonce, des conséquences dramatiques de l’intelligence artificielle. Prenant acte de ses progrès extraordinaires, depuis la voiture autonome de Google jusqu’au logiciel de reconnaissance de la parole, Siri, d’Apple, quatre de ces chercheurs veulent nous prévenir : « Les facultés d’apprentissage automatique des machines alimentées par les quantités d’information colossales que l’on mentionne sous le vocable “masses de données” ou en anglais, de Big data, les rendront bientôt imprévisibles » (p. 9).

Ainsi, le comportement de ces machines ne résulterait plus d’un programme écrit par les hommes, mais de connaissances construites par elles-mêmes, « par induction automatique à partir d’informations glanées ça et là dans des bibliothèques virtuelles, dans des entrepôts de données et dans le monde, au cours de leurs pérégrinations » (pp 9-10). Stephen Hawking affirmait même, en décembre 2014, sur la BBC, que « l’intelligence artificielle pourrait conduire à l’extinction de la race humaine » (p. 10). Ce serait d’ailleurs, pour Elon Musk, grand patron de plusieurs entreprises du web, le plus important danger pour l’humanité. Une autre lettre, écrite en janvier 2015, donne également des recommandations sur de nouvelles directions de recherche, dans le but de s’assurer que des dispositifs autonomes ne puissent nous échapper.

En mathématiques, une singularité décrit un événement dont le comportement devient difficile à prédire, et apparaît comme critique. C’est, par exemple, le cas de la fonction y = 1/x lorsque la valeur de x approche de 0, car il devient alors très difficile de déterminer la valeur de y. Une autre singularité est décrite, en astrophysique : les singularités gravitationnelles, qui existent par exemple au centre des trous noirs, ces régions de l’Univers où la lumière est piégée pour toujours, et d’où elle ne peut jamais ressortir : les lois de la physique y perdent alors toute validité.

Dans la même idée, la Singularité technologique désigne un événement, une rupture brutale, que certains considèrent comme inéluctable, à l’horizon duquel l’intelligence artificielle échappera au contrôle de l’Homme et prendra le dessus sur lui. Le scénario originaire provient de la science-fiction, popularisé au départ, dans ses romans, par Vernor Vinge. C’est John von Neumann qui aurait le premier usé du terme « singularité », entendu au sens mathématique, « pour décrire la transition de phase à laquelle l’évolution de la technologie pourrait éventuellement conduire du fait du rythme exponentiel de la progression des performances » (p. 19).

Historiquement, le terme d’« intelligence artificielle » a été introduit en 1955 par le mathématicien John Mc Carthy ainsi que trois autres scientifiques. Les principes de cette discipline naissante ? « Chaque aspect de l’apprentissage ou de toute autre caractéristique de l’intelligence pourrait être décrit si précisément qu’une machine pourrait être fabriquée pour la simuler. » Le but est donc bien, au départ, de comprendre l’intelligence humaine, et d’en reproduire sur des ordinateurs les diverses manifestations, du raisonnement à la mémoire et au calcul, ou encore à la perception. Ces chercheurs se proposent ainsi de décomposer l’intelligence en facultés élémentaires, avant de les mimer sur des machines.

Au cours des soixante dernières années, cette discipline a enregistré des succès inouïs et a complètement transformé le monde – ainsi l’Internet provient du couplage des réseaux de télécommunication avec une modélisation de la mémoire conçue en 1965 grâce à des techniques d’intelligence artificielle : on appelle hypertexte cet exemple de modélisation de la mémoire. À l’heure actuelle, de la dictée vocale à la biométrie, la reconnaissance des visages aux moteurs de recherche, toutes ces techniques recourent à des principes d’intelligence artificielle.

Au cours des soixante années d’existence de l’intelligence artificielle (IA), d’amples efforts ont porté sur l’amélioration des techniques d’apprentissage automatique. Avant la naissance de l’IA, Alan Turing évoquait d’ailleurs déjà le rôle central que devrait prendre, pour l’intelligence des machines, l’apprentissage automatique. Il fallait, pour qu’une machine simule le comportement d’un être pensant, qu’elle multiplie ses connaissances sur le monde et la réalité sociale.

Pourtant, le transfert de ces connaissances s’avère plus que fastidieux, et cette tâche est infinie, car il est en effet difficile d’attribuer des bornes au savoir humain. Il fallait donc, selon Turing, doter les machines de capacités d’apprentissage, « c’est-à-dire à acquérir d’elles-mêmes compétences, savoir et savoir-faire à partir d’observations sur le monde extérieur, sur leur place dans ce monde et sur leur propre comportement » (p. 45).

Les performances s’avèrent aujourd’hui époustouflantes. Mentionnons ici le programme Alpha Go, de la société DeepMind, qui l’a emporté au jeu de go, en mars 2016, sur l’un des meilleurs joueurs au monde, Lee Sedol, grâce à des techniques d’apprentissage machine, d’apprentissage profond et d’apprentissage par renforcement L’apprentissage profond, ou deep learning en anglais, est une forme d’apprentissage automatique, dite machine learning, permettant à l’ordinateur d’apprendre par l’expérience sans qu’un humain lui spécifie formellement toutes les connaissances nécessaires : processus qui lui permet ainsi de comprendre le monde et les concepts qui le composent en le rapportant à une hiérarchie de briques élémentaires.

Il est ici essentiel de rappeler, donc, l’importance des projets d’éthique sur les agents autonomes. Jean-Gabriel Ganascia, impliqué dans une telle instance, le rappelle : les agents artificiels ne doivent déroger aux règles morales que nous leur fixons. Puisque les robots et agents virtuels prennent une part de plus en plus importante dans la vie quotidienne, il faut s’assurer de leur innocuité.

Toutefois, Jean-Gabriel Ganascia fait remarquer aussi que les algorithmes d’apprentissage ne relèvent finalement que de trois modalités : l’apprentissage supervisé, dans lequel un professeur instruit la machine, l’apprentissage non supervisé parce qu’il n’y a pas de professeur, et l’apprentissage par renforcement, basé sur un jeu de récompenses ou de punitions consécutives à chaque action. Les résultats époustouflants déjà décrits dans l’intelligence artificielle tiennent essentiellement de l’apprentissage supervisé et de l’apprentissage par renforcement. Dans les deux cas, un professeur est requis. La machine n’est donc pas entièrement autonome. Elle ne donne pas ses propres règles, mais suit la leçon enseignée par des hommes.

Pourquoi les géants du web, des patrons des GAFA ou GAFAM aux NATU (Netflix, Airbnb, Tesla, Uber), s’investissent et communiquent tellement sur la diffusion de la théorie de la Singularité, pour laquelle ils ont même créé, entre autres, l’université de la Singularité ? L’explication peut être simplement dans leur « hubris », le sentiment d’ivresse procuré par leur confiance excessive en eux-mêmes, au vu de la démesure de ces personnages, patrons de grandes sociétés du web ayant connu très jeunes un succès faramineux et des capitalisations boursières inouïes.

En définitive, les visions autour de cette intelligence artificielle divergent fortement selon les auteurs. Jacques Attali met en garde, parmi les multiples risques de crises, contre celui d’une crise technologique, « dès lors que l’homme serait dépassé par des technologies », car celles-ci pourraient alors venir à lui nuire fortement. Le philosophe Luc Ferry voit, lui, plutôt l’intelligence artificielle comme une chance pour la société, avec des « retombées colossales pour l’économie, la médecine ou la comptabilité ».

Le mathématicien et député Cédric Villani abonde en ce sens : « La mise en application concrète des machines autonomes, robots et autres algorithmes est prometteuse, à condition de faire de bons choix politiques, en termes d’éducation par exemple. » Il en revient ainsi à l’essentiel : l’éducation. « En fonction des choix que nous ferons, estime encore Cédric Villani, la combinaison homme-machine va être plus performante que la machine et plus performante que l’homme. Et, en fonction des réglementations, des habitudes, de la formation, « on pourra arriver à un état de synergie et de coexistence, ou, au contraire, un état de compétition ». Pour le député, cela passera notamment par la formation des jeunes générations aux métiers scientifiques.

Ouvrage recensé

– Le mythe de la Singularité. Faut-il craindre l’intelligence artificielle ?, Paris, Le Seuil, collection « Science ouverte », 2017.

Du même auteur

– L’âme machine. Les enjeux de l’intelligence artificielle. Seuil, 1990.

Autres pistes