À Quoi Rêvent Les Algorithmes ?

L’essor des algorithmes numériques pilotés par des plateformes privées s’inscrit dans l’histoire longue du développement de la statistique comme outil de gouvernance. Dès la formation des États, ceux-ci ont cherché à produire des données chiffrées au sujet de leurs territoires et leurs populations pour mieux les administrer, comme l’a montré notamment Alain Desrosières dans son livre La politique des grands nombres.

Dans les années 1980, la mise en œuvre de politiques étatiques néolibérales s’est faite parallèlement au développement de l’informatique et des capacités de calcul numériques. Les chiffres gagnent en importance et deviennent partout plus visibles, sous forme de notations, d’indicateurs, de classements. La quantification investit des espaces sociaux qui semblaient autrefois par nature devoir lui résister, à l’instar de l’éducation, la famille ou encore la culture Elle vise à orienter les décisions et les comportements des acteurs, promettant davantage d’efficacité et de productivité.

L’importance des algorithmes dans la structuration des architectures du Web tend à masquer la diversité de leurs caractéristiques et de leurs effets. L’un des apports majeurs de cet ouvrage est de proposer une typologie de ces outils en fonction des valeurs qui les sous-tendent et des enjeux qu’ils soulèvent. Quatre « familles de calcul numérique » (p. 17) se dégagent ainsi : les algorithmes placés à côté, au-dessus, dans, et au-dessous du web.

Les algorithmes placés « à côté » du web mesurent la performance des contenus en quantifiant leur audience. Il s’agit de compteurs de visites et de vues permettant de hiérarchiser les sites en fonction de leur popularité. Les outils développés dans cette perspective, tels que Google Analytics, permettent aux webmasters de suivre la fréquentation de leurs sites et d’adapter leurs services en conséquence. Ils constituent également le socle du système traditionnel d’affichage publicitaire en ligne, en contribuant à déterminer le prix d’affichage de chaque espace suivant sa popularité.

Les algorithmes de machine learning reposent sur un principe d’analyse et de prédiction statistique d’événements. Les informations collectées sur chaque internaute permettent d’élaborer des recommandations spécifiques pour lui, en comparant ses choix avec ceux de l’ensemble des autres individus. Ainsi, si un nombre élevé de personnes consomme fréquemment les produits A, B et C ensemble, ce type d’algorithme considérera comme élevée la probabilité qu’un internaute ayant déjà consulté les pages des produits A et B soit intéressé par le produit C, et le lui suggérera (il s’agit typiquement du cas des recommandations d’ouvrages sur le site Amazon).

Les recommandations façonnées par ce type d’algorithmes portent une charge performative importante : il est probable qu’un individu auquel on a suggéré un produit s’y intéresse effectivement, alors que cela n’aurait pas nécessairement été le cas sinon. En faisant « constamment l’hypothèse que notre futur sera une reproduction de notre passé » (p. 70), ces outils génèrent donc un risque d’enfermement des individus dans des boucles de répétition, dont s’extraire est particulièrement difficile. Les internautes n’ont en effet pas toujours conscience que les contenus leur sont proposés en raison de leurs navigations passées, et sortir du spectre d’informations suggérées requiert de leur part un effort supplémentaire.

Les algorithmes prédictifs sont aujourd’hui partout dans l’univers numérique. La majorité des services utilisés quotidiennement par les internautes reposent sur un apprentissage automatisé de leurs habitudes et préférences individuelles, conduisant à la production continue de suggestions et contenus personnalisés.

L’omniprésence de ces recommandations générées algorithmiquement comporte un risque de voir les décisions automatiques se substituer aux processus de choix conscients et réfléchis des individus. En limitant les champs des possibles des internautes (en déterminant ce qui leur est montré et ce qui ne l’est pas) et en dirigeant leurs actions (en sélectionnant les contenus accessibles), les algorithmes « fabriquent [le] réel, l’organisent et l’orientent ». Ils « imposent une hiérarchisation des valeurs qui en vient progressivement à dessiner les cadres cognitifs et culturels de nos sociétés » (p. 14).

En ouvrant la boîte noire de nos espaces numériques, Dominique Cardon met en évidence la diversité des architectures techniques qui les sous-tendent, des présupposés politiques et moraux qui ont présidé à leur construction, et des effets sociaux qu’ils exercent sur les individus qui s’y trouvent confrontés.

L’apport d’À quoi rêvent les algorithmes a été fondamental sur deux plans. Il a, d’une part, contribué à la démocratisation d’une réflexion politique et sociale sur les enjeux soulevés par la diffusion massive de ce type d’outils. D’autre part, il a participé à l’amorce d’un tournant pour la sociologie française s’intéressant aux architectures numériques de calcul contemporaines.

Si les réflexions critiques entourant les algorithmes s’étaient jusqu’alors tenues principalement à un niveau macroscopique, décrivant de façon générale les effets supposés de ce type d’outils, Dominique Cardon a opéré avec cet ouvrage un changement d’échelle majeur. En se donnant les moyens de travailler sur la diversité concrète des formes algorithmiques, le sociologue répond à son ambition « d’ouvrir la boîte noire des calculateurs » (p. 14).

Ouvrage recensé – À Quoi Rêvent Les Algorithmes ? Nos Vies à l’heure Des Big Data, Paris, Le Seuil, 2015.

Du même auteur – Culture numérique, Paris, Presses de Sciences Po, 2019.