Psychology of In­tel­li­gence Analysis

Si le problème était seulement qu'on voit à travers des schémas, l'expérience suffirait à les corriger. Or Heuer montre le contraire : les modèles mentaux sont remarquablement résistants, et ils le sont d'autant plus qu'ils sont utiles. Un analyste expérimenté a mis des années à construire une grille de lecture d'un pays, d'un régime, d'un dossier. Cette grille marche souvent. C'est précisément pour ça qu'elle est dure à remettre en cause quand elle échoue.

Il décrit un piège que la recherche appelle l'assimilation : plutôt que de réviser sa croyance face à une donnée gênante, on tord la donnée pour qu'elle rentre. Un fait qui contredit l'hypothèse est reclassé en exception, en bruit, en manœuvre de désinformation. Le modèle ne tombe pas ; il absorbe. Heuer note que les analystes changent d'avis moins par accumulation graduelle de preuves contraires que par bascules rares et tardives, une fois le poids devenu insupportable.

Parmi tous les travers que Heuer passe au crible, un revient comme le plus coûteux : chercher ce qui confirme au lieu de chercher ce qui infirme. C'est le biais de confirmation, et il est d'autant plus vicieux qu'il ressemble à du sérieux. On rassemble des preuves, on empile des indices concordants, on se sent de mieux en mieux fondé. Sauf qu'accumuler ce qui va dans son sens ne teste rien du tout.

Il donne à ce réflexe une forme précise. Face à une hypothèse, la question naturelle est « quels éléments la soutiennent ? ». La bonne question, logiquement, est « quels éléments seraient incompatibles avec elle ? ». Une preuve qui colle à une hypothèse colle souvent tout aussi bien à trois autres — elle ne discrimine pas. La seule information qui vaut vraiment est celle qui permet d'écarter une hypothèse. Le renseignement gaspille une énergie folle à confirmer, alors que son travail devrait être d'éliminer.

De ce diagnostic, Heuer tire une méthode, l'Analysis of Competing Hypotheses, sans doute son apport le plus durable. Le principe inverse l'habitude. Au lieu de partir d'une hypothèse préférée et de chercher à l'étayer, on liste d'abord toutes les hypothèses plausibles, y compris celles qu'on trouve improbables. On les met en concurrence dès le départ, à égalité, avant de s'être attaché à aucune.

Puis on construit une matrice. En colonnes, les hypothèses. En lignes, chaque élément de preuve disponible. Pour chaque case, on ne demande pas si l'indice soutient l'hypothèse, mais s'il est compatible ou incompatible avec elle. Le renversement est là : on ne cherche pas à couronner une gagnante, on cherche à éliminer des perdantes. L'hypothèse à retenir n'est pas celle qui a le plus de preuves pour, mais celle qui a le moins de preuves contre — celle qui résiste quand on essaie de l'abattre.

Heuer a écrit pour des gens dont les erreurs se comptaient en crises internationales, mais son livre ne parle pas vraiment d'espionnage. Il parle de ce que fait un cerveau quand il doit décider avec des données incomplètes : il projette ses attentes, s'accroche à sa première idée, confond le volume d'indices avec la solidité d'une conclusion, et se persuade après coup qu'il avait tout prévu. Ces travers ne sont pas des défauts d'analystes distraits. Ce sont les réglages par défaut de la pensée humaine, et l'expertise les renforce plutôt qu'elle ne les efface.