Algorithmes

Le modèle PredPol (police prédictive) partait d’une bonne idée : déployer les unités de police là où les crimes ont le plus de chance de se produire. Pour ce faire, l’algorithme analyse les crimes passés, croise ces données avec les facteurs qui attirent les criminels (magasins de nuit, distributeurs de billets…) et ressort un quadrillage des zones à risque. En patrouillant dans ces zones, les policiers augmentent leur chance d’intercepter les criminels. Et cela semble fonctionner : les villes ayant adopté ce dispositif, comme Atlanta ou Los Angeles, ont observé une baisse de la criminalité. C’est ici que l’exercice d’esprit critique que nous propose l’auteur est précieux.

Aux États-Unis, les citoyens noirs ou hispaniques écopent généralement, à crime égal, de sentences plus lourdes que les citoyens blancs. Ces jugements sont notamment basés sur l’intuition, plus ou moins étayée, que les individus issus de ces minorités ont plus de chances de récidiver. Partant de ce constat, le modèle LSI-R vise à évaluer plus objectivement le risque de récidive.

Pour ce faire, le modèle s’appuie notamment sur les réponses des prisonniers à un long questionnaire. Les premières questions sont directes: « avez-vous déjà récidivé ? » ou encore « quel rôle ont joué les autres dans l’infraction ? L’alcool ou la drogue y étaient-ils pour quelque chose ? ». Les questions suivantes révèlent, en revanche, un biais : « Quand avez-vous eu un problème avec la police pour la première fois ? ». On notera, en effet, que les noirs et les hispaniques ont beaucoup plus de chance d’être contrôlés par la police.

Étude après étude, la tendance se confirme : les discriminations à l’embauche, notamment sur la base du patronyme, sont légion. Et si l’impartialité des mathématiques permettait d’y mettre un terme ? C’est là ce que propose Kronos, un des leaders mondiaux des ressources humaines : sélectionner sur la base des compétences et non de la naissance. Voyons, avec l’auteur, comment cela fonctionne.

Pour déterminer si un candidat a le bon profil, on lui demande de passer un test de personnalité. Le programme identifie alors des motifs (pattern) dans ses réponses. Un premier problème vient du fait que les participants n’ont pas la possibilité de comprendre ce que l’on attend d’eux. Par exemple, comment faire bonne figure si on vous donne le choix entre : « J’ai du mal à être de bonne humeur quand il y a beaucoup de problèmes à régler » et « Parfois, j’ai besoin d’être un peu poussé pour me mettre au travail ».

Traditionnellement, pour convaincre une majorité d’électeurs, les professionnels de la politique doivent s’efforcer de satisfaire des sensibilités différentes. Dans cette perspective, une méthode consiste à tenir des propos si généraux qu’ils ne blessent personne.

La plupart des slogans de candidats à la présidentielle participent de cette stratégie: « La France présidente », « ensemble, tout devient possible ! »,etc. La limite est, bien sûr, que la plupart des électeurs y voient de la langue de bois. Une autre stratégie consiste à adapter le discours en fonction des auditoires. Là encore, la stratégie n’est pas optimale: ceux qui s’y adonnent risquent d’être pris en flagrant délit de duplicité. L’idéal serait d’adresser un message personnalisé à chaque électeur sans que cela ne se sache…

À cet égard, le marketing dispose d’une avance confortable sur la politique. Par exemple, si les supermarchés nous proposent de cumuler des points en l’échange de quelques euros de remise, ce n’est pas seulement pour nous inciter à revenir chez eux. L’objectif est d’analyser nos comportements afin de nous offrir des promotions ciblées. L’opération est réussie s’ils parviennent à habituer certains consommateurs à la gamme supérieure d’un produit en les attirant avec des bons de réduction.

Au terme de ce parcours, nous mesurons l’enjeu qu’il y a à nous informer sur ces algorithmes que nous croiserons bientôt sur les chemins de l’école, du travail et du bureau de vote. Récapitulons donc, pour finir, les signaux qui doivent nous alerter sur le potentiel destructeur d’un algorithme.

Premièrement, les mauvais algorithmes sont opaques. Si, dans une procédure de recrutement ou d’évaluation, vous devez remplir un questionnaire, vous avez le droit savoir comment ces données seront utilisées. Si on refuse de vous éclairer ou si on cherche à noyer le poisson (« l’évaluation est le résultat d’un calcul complexe prenant en compte de nombreux paramètres »), vous êtes probablement en présence d’un mauvais algorithme qui mérite d’être dénoncé.

Deuxièmement, les mauvais algorithmes n’apprennent pas de leurs erreurs. Si l’algorithme d’Amazon se mettait à recommander des livres sur l’entretien des tondeuses à gazon à des adolescentes de 15 ans, cela entrainerait une baisse anormale du nombre de cliques, et l’erreur serait vite rectifiée. L’algorithme qui suggère de maintenir un individu en prison n’a pas de moyen comparable de vérification. Celui qui suggère de refuser un candidat non plus.

Cet ouvrage mérite sans aucun doute votre attention. En le lisant, il convient cependant de garder à l’esprit que Cathy O’Neil s’inscrit dans une démarche militante. Un auteur d’un autre bord idéologique pourrait nous conter une histoire bien différente : s’il est vrai que la police prédictive cible systématiquement les quartiers défavorisés, le fait est que le système a permis une baisse de la criminalité ; s’il est vrai que les procédures automatisées de recrutement présentent des biais, elles permettent aux entreprises d’économiser beaucoup de temps et d’argent...

Ouvrage recensé – Cathy O’Neil, Algorithmes : la bombe à retardement, Paris, Les Arènes, 2018.