Global Ca­tas­tro­phic Risks

Avant même de chiffrer les risques, le livre s'attarde sur un obstacle plus intime : l'esprit humain est mal outillé pour raisonner sur des événements à la fois immenses et improbables. Bostrom consacre des pages entières à ces défaillances, parce qu'elles faussent toute évaluation. On ne se trompe pas seulement sur les faits — on se trompe sur la façon même de les peser.

Le premier piège porte un nom : le biais de sélection d'observation. On existe pour se poser la question, donc on habite forcément un passé où aucune catastrophe totale n'a eu lieu. Cette survie n'est pas une preuve de sécurité, c'est une condition de notre présence. Un joueur qui a gagné dix fois à la roulette russe n'a pas découvert que le barillet est vide. Bostrom insiste : notre absence d'extinction passée ne dit presque rien de notre probabilité d'extinction future.

Une fois l'outillage mental redressé, le livre revient aux menaces les plus sérieuses, et elles sont presque toutes de notre main. La guerre nucléaire ouvre le bal, non pour ses explosions, mais pour ce qui suivrait : les modèles d'hiver nucléaire décrivent des suies injectées dans la haute atmosphère, un ciel obscurci pendant des années, des récoltes effondrées à l'échelle d'un continent. Une guerre entre grandes puissances tuerait par le feu, puis par la faim, bien au-delà des cibles.

Vient ensuite ce que plusieurs auteurs du livre considèrent comme la menace montante du siècle : la biologie de synthèse. Fabriquer ou modifier un agent pathogène devient techniquement plus accessible d'année en année. Une pandémie naturelle est bornée par l'évolution, qui rarement optimise à la fois la contagiosité et la létalité. Un agent conçu délibérément n'a pas cette retenue. Le risque n'est plus seulement l'accident de laboratoire, mais la possibilité qu'un petit groupe, un jour, dispose d'un pouvoir jadis réservé aux États.

Au fond, ce qui donne au projet de Bostrom sa cohérence n'est pas la liste des menaces, mais la manière dont il définit ce qui est en jeu. Une catastrophe qui tue des milliards d'humains est horrible, mais réversible à l'échelle des temps longs ; l'espèce se reconstruit, la civilisation repart. Une catastrophe existentielle, elle, ferme définitivement la porte. Ce qu'elle détruit n'est pas seulement le présent, c'est tout l'avenir qui aurait pu suivre.

Cette perspective déplace complètement l'arithmétique. Si l'on prend au sérieux l'idée que l'humanité pourrait durer des centaines de milliers d'années, coloniser d'autres mondes, faire naître des générations dont le nombre dépasse l'imagination, alors une extinction n'efface pas seulement huit milliards de vies. Elle efface tous ceux qui n'auront jamais l'occasion de vivre. Sous cet angle, réduire même infimement la probabilité d'extinction pèse davantage que presque n'importe quel bénéfice immédiat.

Global Catastrophic Risks ne se lit pas comme un cri d'alarme, et c'est peut-être sa force. Bostrom et ses collègues procèdent en comptables du désastre : ils trient les menaces, corrigent les biais qui les minimisent, hasardent des ordres de grandeur, refusent la panique comme le déni. Ce qui reste, une fois le livre refermé, ce n'est pas une peur précise, mais un déplacement du regard. Les risques qui comptent vraiment ne sont pas ceux qui font la une ; ce sont les rares, les lents, les nôtres, ceux que notre esprit est justement construit pour ignorer.