L’In­tel­li­gence ar­ti­fi­cielle n’existe pas

Le terme intelligence artificielle, que l’on attribue à l’informaticien américain John McCarthy, s’est diffusé à partir des années 1950. Il fait écho à l’optimisme des débuts de la discipline : les chercheurs étaient alors persuadés de leur capacité à développer rapidement des machines intelligentes. Ainsi, lors de l’été 1956, John McCarthy rassembla une équipe de chercheurs au Dartmouth College (New Hampshire) autour de la conviction que « l’intelligence humaine peut être décrite de façon si précise que des machines peuvent la simuler ».

L’objectif était, en travaillant sérieusement pendant deux mois, de mettre en œuvre des moyens pour que « les machines utilisent le langage, forment des abstractions, des concepts et résolvent des problèmes qui sont jusqu’à maintenant réservés aux humains ». Depuis cette première impulsion, les méthodes d’intelligence artificielle ont, il est vrai, permis de résoudre de nombreux problèmes. Mais l’auteur est formel : jamais en ayant recours à ce qu’on pourrait qualifier d’intelligence…

Les enfants n’ont besoin que de deux images de chats pour les reconnaître à vie, dans n’importe quelles circonstances et de manière quasi infaillible. Dans certains cas, nous sommes même capables d’apprendre en un essai. Par exemple, si j’employais le verbe « daxer », vous pourriez instantanément l’utiliser et le conjuguer. Or, comme le note l’auteur : « Les machines sont incapables de contextualiser. Si, lors de la phase d’apprentissage, on n’a pas fourni de photos de chats prises de nuit, il y a peu de chance que le système reconnaisse un chat dans la nuit…On peut bien sûr multiplier les paramètres et augmenter les jeux de données, mais outre le fait qu’il sera difficile de modéliser tous les états et toutes les circonstances, des problèmes de puissance de calcul se poseront ». Ce que l’on appelle intelligence artificielle repose souvent en vérité sur la force brute : résoudre un problème en testant le plus de solutions possible grâce à la puissance de calcul.

Revenons donc sur les étapes les plus marquantes de l’ascension de l’IA. En 1997, l’ordinateur Deep Blue d’IBM bat à la surprise générale le champion du monde d’échecs en titre. Mais si Deep Blue a battu Kasparov, c’est en jouant à un autre jeu que lui. Alors que Kasparov réfléchissait et comblait parfois l’incertitude par de l’intuition, Deep Blue avait recours à « une capacité de mémoire phénoménale où étaient stockées des milliers de parties d’échecs, ainsi que les différents chemins menant à la victoire en fonction des différentes configurations ». Il ne s’agit donc pas d’une démonstration d’intelligence, mais d’une prouesse technologique.

En 2016, le programme AlphaGo, développé par Google, bat le champion du monde de go, le Sud-Coréen Lee Sedol. L’émotion fut grande, car le jeu de go est plus complexe que les échecs. En particulier, il n’existe pas d’estimation précise de la totalité des coups disponibles (les chiffres varient en 10172 et 10762). Il n’est donc pas possible d’avoir recours à la force brute pour battre un adversaire humain. Il fut, en revanche, possible de rendre la machine plus experte que n’importe quel humain en lui donnant l’expérience de plus de parties que ses adversaires n’auront le temps de jouer dans plusieurs vies. Ainsi, lorsqu’Alpha Go se présenta face à Lee Sedol, c’était armé de la mémoire de 30 millions de coups extraits de 160 000 parties. Il s’agit, encore une fois, de puissance et non d’intelligence.

C’est là une peur à l’origine de nombreux mythes et films d’épouvante : la créature prétend être sous le contrôle du concepteur, mais, une fois qu’elle a acquis suffisamment de force et d’intelligence, elle brise soudainement ses chaînes et se venge. Ce scénario a déjà été évoqué par des chercheurs et entrepreneurs à la pointe du domaine.

On se rappellera par exemple la déclaration de Bill Gates : « Au début, les machines vont effectuer de nombreuses tâches et ne seront pas très intelligentes. Ça devrait être positif, si nous gérons bien, mais dans quelques décennies, l’IA devrait être assez forte pour être une préoccupation ». Cette peur se concrétisa en 2017 avec la diffusion d’une information inquiétante dans les médias : au cours d’une expérience, deux intelligences artificielles prenant part à un jeu de négociation auraient développé un nouveau langage. Ce langage leur permettait de communiquer entre elles sans être comprises par les chercheurs.

Plutôt que de jouer à nous faire peur avec des scénarios qui relèvent de la science-fiction, l’auteur attire finalement notre attention sur un problème plus prosaïque et autrement plus urgent : « Je ne crois pas aux méchants robots, en revanche, j’ai peur que les méthodes courantes de Machine ou Deep Learning nous amènent à consommer beaucoup trop de ressources et se révèlent très dangereuses pour notre planète ».

L’ouvrage est intéressant et agréable à lire. Il souffre cependant d’un défaut important : l’auteur ne prend pas le temps de justifier sa définition de l’intelligence qui est pourtant loin d’être consensuelle : « Je définirais l’intelligence comme la capacité de casser les règles, d’innover, de s’intéresser à ce qui est différent, à ce que l’on ne connaît pas.

Pour moi, être intelligent, c’est avoir de la curiosité ». Vu sous cet angle, il est vrai que l’intelligence artificielle n’existe pas encore. Mais les définitions les plus répandues de l’intelligence ne se focalisent pas tant sur la curiosité que sur la capacité à apprendre, à comprendre et à mobiliser les connaissances pertinentes à la résolution d’un problème. Et si une machine est belle et bien capable de résoudre des problèmes de plus en plus complexes, on ne voit pas bien les raisons de refuser de la qualifier d’intelligente.

Ouvrage recensé

– L’Intelligence artificielle n’existe pas, Paris, Éditions First, 2019.