Black box thinking

En regard de l'aviation, Syed pose la médecine, et le contraste est brutal. Il ouvre son livre sur le cas d'une patiente, Elaine Bromiley, morte en 2005 lors d'une opération de routine parce que l'équipe médicale n'a pas su gérer une intubation ratée. Ironie tragique : son mari était pilote de ligne. Habitué à un monde où l'on analyse chaque défaillance, il découvre un univers où l'incident se referme dans le silence, sans enquête, sans trace exploitable. C'est lui, et non l'hôpital, qui réclamera une investigation en règle.

Les ordres de grandeur donnés par Syed donnent le vertige. Les erreurs médicales évitables tueraient, aux États-Unis, un nombre de patients comparable à celui de plusieurs crashs de gros porteurs par semaine — des estimations qui vont de dizaines à centaines de milliers de morts par an selon les études. Pourtant, aucun système comparable à la boîte noire n'existait pour capter ces défaillances de façon systématique. L'information se perdait au moment même où elle aurait été la plus précieuse, et les mêmes erreurs pouvaient se rejouer dans un autre bloc la semaine suivante.

Syed ne s'arrête pas aux institutions ; il descend dans la psychologie. Pourquoi enterrer ses erreurs plutôt que d'en tirer parti, alors que le second choix est manifestement plus utile ? Sa réponse s'appuie sur un mécanisme bien documenté par la psychologie sociale : la dissonance cognitive, ce malaise qu'on éprouve quand un fait contredit l'image qu'on a de soi. Plutôt que d'ajuster cette image, on réinterprète le fait pour la préserver. Le mensonge qu'on se raconte est moins coûteux, sur le moment, que la vérité qu'il faudrait admettre.

L'exemple le plus frappant qu'il mobilise vient de la justice. Aux États-Unis, des dizaines de condamnés ont été innocentés grâce aux tests ADN, parfois après vingt ans de prison. On pourrait croire que les procureurs concernés accueilleraient la preuve avec soulagement. Beaucoup, au contraire, ont contesté les résultats, cherché des explications alternatives, refusé d'admettre l'erreur judiciaire. Reconnaître la faute aurait signifié se voir comme quelqu'un ayant envoyé un innocent derrière les barreaux — insupportable, donc nié. La preuve la plus solide se heurtait alors non à un manque de logique, mais à un besoin de se protéger.

En prenant du recul, Syed suggère que le vrai basculement n'est pas technique mais moral. Tant que l'erreur reste une faute — quelque chose qui salit celui qui la commet —, elle appelle la punition et donc la dissimulation. Dès qu'on la traite comme une information — un signal sur ce qui, dans un système, ne fonctionne pas encore —, elle appelle l'enquête et donc le progrès. Passer de la première conception à la seconde, c'est cesser de chercher qui a mal agi pour comprendre pourquoi le résultat a mal tourné.

Cette bascule éclaire des domaines très éloignés du cockpit. Syed y rattache la démarche scientifique elle-même, qui n'avance qu'en cherchant à réfuter ses propres hypothèses, et la pratique des essais itératifs qu'on trouve dans certaines entreprises, où l'on teste vite, on échoue petit et on corrige avant de recommencer. Le point commun n'est pas l'amour de l'échec pour lui-même — personne n'aime rater. C'est le refus de le jeter. Un raté qui n'apprend rien est un gaspillage ; un raté examiné devient un pas. La différence entre stagner et progresser tient souvent à ce seul geste : regarder ce qu'on aurait préféré ne pas voir.

L'histoire que raconte Syed tient dans un écart : deux métiers de haute responsabilité, une même exposition à l'erreur humaine, et des trajectoires opposées selon qu'ils ont choisi d'enregistrer leurs ratés ou de les taire. L'aviation a fait de chaque catastrophe une leçon collective ; la médecine, longtemps, a laissé ses fautes se refermer dans le silence, condamnée à les répéter. Entre les deux, aucune différence de compétence — seulement une manière opposée de regarder l'échec.