Télécharger l'app

Scanne. C'est dans ta poche.

QR Code — Dygest

Ouvre l'app Appareil photo, pointe sur le code. C'est gratuit à l'essai.

Artificial intelligence

Artificial in­tel­li­gence

Dygest Original

Ce que l'IA ne sait pas faire

Écouter l'extrait du podcast :
0:00 --:--

Description

Fin 2022, un logiciel se met à écrire des poèmes, du code et des lettres de démission en quelques secondes, et le monde entier décide en même temps que l'intelligence artificielle vient d'arriver. Sauf qu'elle traînait déjà partout depuis des années : dans le correcteur du téléphone, dans les recommandations de séries, dans le filtre anti-spam, dans la reconnaissance des visages sur les photos. Ce qui a changé en 2022, ce n'est pas l'existence de l'IA. C'est qu'elle s'est mise à parler, et que parler, chez une machine, ça impressionne autrement qu'un filtre à spam.

Le problème, c'est qu'on a hérité d'un seul mot — « intelligence artificielle » — pour désigner des choses très différentes, empilées les unes sur les autres sur soixante-dix ans. Sous ce grand parapluie vivent au moins trois familles qu'on confond joyeusement : l'apprentissage automatique, l'apprentissage profond, et les modèles de langue qui font parler ChatGPT ou ses cousins. Chacune emboîte la précédente comme des poupées russes, et aucune ne fait ce que le mot « intelligence » laisse croire.

Distinguer ces trois couches, ce n'est pas un caprice de vocabulaire. C'est la seule façon de comprendre pourquoi ces systèmes réussissent des exploits stupéfiants dans une phrase et racontent n'importe quoi avec le même aplomb dans la suivante. Une fois qu'on a démêlé ce qu'il y a dedans, une question devient plus nette que la question habituelle « qu'est-ce que l'IA sait faire ? ». Celle qui reste : qu'est-ce qu'elle ne fait pas.

La question que l’on se pose : Que recouvre vraiment le mot « intelligence artificielle », et qu'est-ce que ces systèmes, sous leurs prouesses, ne font pas ?Ce que l’on va voir : On soulève le capot de trois technologies qu'un seul mot recouvre, pour finir sur la ligne que la machine, même bavarde, ne franchit pas.

Sommaire

01

Chapitre 1 — Trois mots qu'on prend l'un pour l'autre

Le terme « intelligence artificielle » est né en 1956, lors d'un séminaire d'été au Dartmouth College, dans le New Hampshire. John McCarthy, un mathématicien qui organisait l'événement, a inventé l'expression en partie pour se démarquer d'un collègue. L'ambition d'époque était énorme : reproduire le raisonnement humain avec des règles écrites à la main. Pendant trente ans, l'IA, c'est ça — des systèmes qu'on programme explicitement, où un humain code chaque règle. « Si le patient a de la fièvre et une toux, alors envisager telle maladie. » Ça marchait dans des domaines étroits et calait dès que le monde devenait un peu désordonné.

Aujourd'hui, quand on dit « IA », on parle rarement de ça. On parle de systèmes qui ne suivent plus des règles écrites par un humain, mais qui les tirent eux-mêmes d'une montagne d'exemples. C'est le renversement fondamental, et c'est là que commencent nos trois poupées russes. La plus grande, c'est l'apprentissage automatique : au lieu de programmer la réponse, on montre des milliers de cas à la machine et on la laisse dégager le motif. Dedans se niche l'apprentissage profond, une technique particulière d'apprentissage automatique. Et dans l'apprentissage profond se logent les modèles de langue, qui font parler les agents conversationnels qu'on connaît.

Téléchargez Dygest

pour avoir une expérience complète !

02

Chapitre 2 — La machine qui apprend sans qu'on lui dise quoi chercher

L'apprentissage automatique repose sur une idée presque banale une fois posée : plutôt que d'écrire les règles, on les fait émerger de la donnée. Prenons le cas d'école, la boîte mail. Pour construire un filtre anti-spam à la main, il faudrait lister tous les indices d'un courrier indésirable — un travail sans fin, car les spammeurs changent de tactique en permanence. À la place, on montre au système des dizaines de milliers de messages déjà étiquetés « spam » ou « pas spam », et on le laisse repérer tout seul ce qui distingue les deux. Il ajuste des milliers de petits poids internes jusqu'à ne presque plus se tromper.

Ce qu'il faut saisir, c'est que la machine ne comprend rien au sens humain. Elle n'a aucune idée de ce qu'est une arnaque, un héritage nigérian ou une pharmacie douteuse. Elle a juste remarqué que certaines combinaisons de mots, de liens et d'expéditeurs corrèlent statistiquement avec l'étiquette « spam ». C'est de la reconnaissance de motifs à grande échelle, pas du jugement. Et ça suffit largement pour un paquet de tâches : recommander un film, estimer le prix d'un appartement, détecter une transaction frauduleuse, prévoir la panne d'une machine avant qu'elle lâche.

Téléchargez Dygest

pour avoir une expérience complète !

03

Chapitre 3 — Les couches profondes, et le mot qui n'existait pas avant 2017

L'apprentissage profond doit son nom à une image très concrète : des couches. On empile des réseaux de neurones artificiels — des unités de calcul vaguement inspirées du cerveau, mais qui n'en sont qu'une caricature mathématique — les unes derrière les autres. Chaque couche transforme un peu l'information avant de la passer à la suivante. Pour reconnaître un visage, la première couche repère des bords, la deuxième des coins, la troisième des yeux et des nez, et ainsi de suite jusqu'à « c'est le visage de telle personne ». « Profond » veut simplement dire beaucoup de couches. Rien de mystique là-dedans.

L'idée n'est pas neuve — elle date des années 1980 — mais elle a longtemps dormi faute de deux choses : assez de données et assez de puissance de calcul. Le déclic arrive vers 2012, quand un réseau profond pulvérise la concurrence dans un concours de reconnaissance d'images. À partir de là, tout accélère. La traduction automatique fait un bond, la reconnaissance vocale devient utilisable, les voitures commencent à « voir » la route. L'apprentissage profond règne sur tout ce qui touche à la perception : image, son, langage brut.

Téléchargez Dygest

pour avoir une expérience complète !

04

Chapitre 4 — Une machine qui prédit, pas qui comprend

Il faut tenir les deux bouts à la fois. Un grand modèle de langue peut rédiger un contrat plausible, résumer un rapport de trente pages, expliquer un théorème et le faire dans huit langues. Et le même système, dans la foulée, invente une citation qui n'existe pas, attribue un livre au mauvais auteur, se trompe en additionnant deux nombres à trois chiffres. On appelle ça pudiquement des « hallucinations ». Le terme est trompeur : le modèle n'hallucine pas plus dans ses erreurs que dans ses réussites. Il fait exactement la même chose des deux côtés — il prédit une suite plausible de mots. Quand la suite plausible se trouve être vraie, on applaudit. Quand elle est fausse, on parle de bug. Pour la machine, c'est le même geste.

C'est le nœud. Ces systèmes n'ont pas de modèle du monde, pas de notion de vérité, pas d'intention. Ils n'accèdent à aucun fait — seulement à des régularités dans du texte à propos de faits. Un LLM ne sait pas qu'il ne sait pas ; il ne peut pas, parce que « savoir » suppose une relation à une réalité extérieure qu'il n'a jamais eue. Il manipule la forme du langage avec une virtuosité inédite, et la forme, chez nous, ressemble tellement au fond qu'on projette une compréhension là où il n'y a que de la statistique bien réglée. C'est le philosophe qui pointerait ici la différence entre parler juste et parler vrai.

Téléchargez Dygest

pour avoir une expérience complète !

05

Conclusion

En 2022, on a cru que l'intelligence artificielle venait de naître, alors qu'on venait surtout de lui donner la parole. Derrière le mot unique se cachent trois technologies emboîtées : l'apprentissage automatique qui tire des règles de la donnée, l'apprentissage profond qui empile des couches pour attraper les motifs les plus tordus, et les modèles de langue qui, à force de prédire le mot suivant, finissent par tenir une conversation. Aucune de ces couches ne pense. Elles reconnaissent, elles prédisent, elles continuent — avec une puissance qui change réellement le monde du travail, de la santé, de la création.

Téléchargez Dygest

pour avoir une expérience complète !