De l’autre côté de la machine

Le mot algorithme vient du nom d’un mathématicien, géographe, astrologue et astronome persan du IXe siècle, Muhammad ibn Musa al-Khwarizmi, qui était membre de la Maison de la sagesse de Bagdad, sorte de haut-lieu culturel et scientifique regroupant probablement des bibliothèques, des observatoires et autres lieux de réunion et de travail intellectuel. Les mathématiciens utilisaient le mot algorithme pour désigner tout procédé de calcul ou de construction exprimé par une liste bien définie de tâches élémentaires.

Le plus connu des algorithmes mathématiques est celui qu’on appelle l’algorithme d’Euclide, utilisé dans la technique écrite de la division. En nous expliquant l’algorithme d’Euclide, Aurélie Jean évoque le principe de récursivité, essentiel en algorithmique : « La récursivité est le fait de pouvoir appliquer en boucle une opération sur l’opération d’origine jusqu’à satisfaire une condition spécifique » (p.38). Car la difficulté, dans un algorithme, outre la définition du processus logique qui permettra la résolution du problème, c’est d’offrir la manière la plus rapide d’y arriver. Et cela est particulièrement vrai lorsqu’on parle des algorithmes numériques qui sont une « variété » d’algorithmes exclusivement utilisables par des ordinateurs.

« Écrire un algorithme, c’est dessiner un chemin de résolution pour un problème donné, une manière d’accéder rapidement et avec justesse (ou à une erreur près) à la réponse recherchée » (p.19-20).

C’est grâce à la simulation que les algorithmes nous aident à résoudre des problèmes. En virtualisant la réalité, ils permettent de comprendre, d’expérimenter, de trouver des solutions sans être obligé de « faire ». Simuler évite de construire des prototypes et permet de multiplier les essais. Récrire un nouvel algorithme si les simulations ont produit de mauvais résultats est moins couteux et plus rapide que de fabriquer de nouveaux prototypes.

Tout cela permet d’ouvrir le champ des hypothèses bien au-delà des limites du monde réel. Par exemple, lorsqu’elle a intégré l’institut de recherche du Massachusetts, le MIT, Aurélie Jean devait étudier les différentes réactions du cerveau lors des traumatismes crâniens. Comment effectuer ce genre de recherche sinon par la simulation ? Grâce à la modélisation de la morphologie de la tête, les ordinateurs l’ont aidée à visualiser précisément les différentes pressions subies par le cerveau suivant les types d’impact. Les résultats ont permis de définir les niveaux de risque de traumatisme crânien selon le choc reçu par une personne blessée.

Qu’est-ce qu’un biais ? C’est un élément qui a « biaisé », créé une déviation, une sorte de distorsion dans la résolution d’un algorithme. De sorte qu’on se retrouve avec une différence entre la réalité et le résultat de l’algorithme. Il existe de multiples risques de biais. Le biais explicite est celui qui est sciemment introduit dans l’algorithme.

En général, il apparaît comme la seule solution pour poursuivre une recherche. Par exemple, au cours de leurs travaux sur les réactions du cerveau lors des traumatismes crâniens, Aurélie Jean et son équipe se sont trouvés bloqués par un problème insoluble à l’époque : comment inclure les informations sur les diverses déformations des tissus du cerveau selon la provenance et le sens du choc subi ? Ils ont décidé de poser l’hypothèse d’une réaction identique du cerveau d’où que provienne sa déformation. C’est un biais explicite : il peut impacter les résultats mais il est connu. Pour les scientifiques, il est important de signaler l’introduction volontaire d’un biais au cas où la recherche serait reprise par une autre équipe.

On critique beaucoup les algorithmes en leur prêtant des pouvoirs qu’ils n’ont pas. Une attitude fantasmée à partir des œuvres de fiction qui nous proposent quantités d’histoires de super robots et d’une intelligence artificielle émancipée.

Aurélie Jean s’agace de ce que le public croit volontiers à des robots intelligents alors que personne n’a jamais eu déraisonnablement peur de sa tronçonneuse ou de sa voiture ! Cela résulte du fait que nous connaissons si bien les objets de notre quotidien que nous savons faire la part des choses entre le film et la réalité. Mais beaucoup ne connaissent pas assez le monde des algorithmes pour trier réalité et fiction. Sans oublier notre anthropomorphisme qui nous porte à prêter nos sentiments et nos émotions à un boîtier qui nous parle ou à une machine à laquelle on a donné une apparence humaine. Cela s’appelle l’effet ELIZA, du nom d’un système de conversation automatique utilisé en psychothérapie dans les années 1960. Difficile d’oublier qu’un robot qui vous sourit n’est qu’une machine programmée pour effectuer un mouvement en fonction d’une action de votre part. Aurélie Jean avoue qu’elle-même ressentait beaucoup d’empathie pour le robot Curiosity envoyé sur Mars.

Les biais rappellent aux informaticiens qu’ils doivent savoir se remettre en cause, cultiver le doute et prendre du recul. À ce propos, pourquoi ne pas inclure plus d’enseignement de philosophie dans le parcours de formation des scientifiques ? On pourrait aussi s’inspirer du serment d’Hippocrate, en instaurant une démarche similaire pour sensibiliser les spécialistes de l’intelligence artificielle aux questions d’éthique liées aux conséquences potentielles de leurs travaux.

Cela contribuerait peut-être à améliorer l’adhésion du grand public. Car la société accuse trop souvent les entreprises de technologie, d’emblée soupçonnées des pires intentions, alors qu’elles contribuent au progrès scientifique. Le fait n’est pas nouveau : Aurélie Jean nous rappelle que l’histoire regorge d’exemples de scientifiques victimes d’avoir dévoilé leurs découvertes à une société qui n’était pas prête. Érasme, Galilée, Copernic, Lavoisier ont payé, parfois de leur vie, une violence venue de la peur et de l’obscurantisme.

Le sujet principal du livre est le biais. Et c’est intéressant car on comprend à quel point la découverte des biais algorithmiques a permis à Aurélie Jean de prendre de la hauteur par rapport à son regard de scientifique. Comme elle le répète tout au long du livre, le fait d’être passée par le virtuel lui a permis de comprendre le réel. Comme si cela lui avait ouvert l’esprit sur l’humain et ses biais naturels.

L’auteure s’appuie, tout au long du livre, sur d’innombrables exemples issus de son histoire personnelle. Même si cela finit parfois par paraître trop autocentré, il n’est pas nécessaire de s’arrêter à cela. Pourquoi devrait-elle s’excuser d’être brillante ou, pire, faire semblant de ne pas l’être par fausse modestie ?

Ouvrage recensé – Aurélie Jean, De l’autre côté de la machine, Paris, L’Observatoire, coll. « De Facto », 2019.