The Coming Wave

La puissance de la vague décrite par Suleyman ne réside pas seulement dans les progrès parallèles de l'IA et de la biologie de synthèse, mais dans leur convergence symbiotique. Cette fusion n'est pas une simple addition de capacités ; elle est un moteur unique qui reconfigure la définition même du vivant et de l'intelligence, transformant le code biologique en information et l'information numérique en agentivité.

Suleyman détaille la transformation de la biologie en une discipline d'ingénierie. Les avancées telles que CRISPR, qui agit comme une paire de "ciseaux à ADN" d'une précision redoutable, et la démocratisation des "imprimantes à ADN" (DNA synthesizers) permettent de lire et d'écrire le code de la vie avec une facilité et un coût en constante diminution. La biologie quitte le domaine de l'observation pour entrer dans celui de la conception. Le vivant devient programmable.

Le "grand contrat" social qui structure la modernité politique repose sur un échange fondamental : les citoyens cèdent à l'État le monopole de la violence légitime en échange de la sécurité et de la stabilité. Cet équilibre est aujourd'hui directement menacé par la nouvelle vague technologique. La capacité de l'État à honorer sa part du contrat est remise en question, provoquant une érosion de sa souveraineté. Cette analyse de l'érosion étatique, si elle est pertinente, s'inscrit dans une tradition sociologique plus large qui, de Max Weber à Manuel Castells, a analysé la dissociation entre pouvoir, territoire et légitimité. Suleyman actualise cette problématique en la dotant d'un moteur technologique d'une vélocité inédite.

Selon Suleyman, nous sommes confrontés au "plus grand dilemme du XXIe siècle". La technologie elle-même nous force à un arbitrage tragique entre deux futurs profondément indésirables. Il ne s'agit pas de choisir entre un bon et un mauvais scénario, mais entre deux formes d'échec civilisationnel. Les deux branches de ce dilemme sont aussi claires qu'effrayantes :

- Le risque de Catastrophe : Maintenir une société ouverte et permettre la libre prolifération de technologies "omni-usage" revient à laisser la porte ouverte à des catastrophes d'une ampleur inédite. Qu'elles soient intentionnelles, comme un groupe terroriste tel que le culte Aum Shinrikyo utilisant la biologie de synthèse pour créer un pathogène pandémique, ou accidentelles, comme une fuite de laboratoire ou une IA échappant à tout contrôle, l'absence d'un endiguement strict rend la catastrophe non seulement possible, mais probable à terme.

The Coming Wave n'est pas un simple catalogue de risques. Il s'agit d'une tentative de construire un raisonnement systémique pour justifier la nécessité d'une action radicale mais mesurée. La structure logique de l'argumentation de Suleyman est implacable et se déploie comme une démonstration en plusieurs étapes.

La cohérence interne du plaidoyer repose sur une chaîne causale claire. D'abord, la nature même de la vague technologique – sa convergence, sa prolifération asymétrique, son caractère "omni-usage" – est le postulat de départ. Ensuite, cette nature conduit inévitablement à l'érosion du pouvoir de l'État-nation. Enfin, cet affaiblissement engendre un dilemme existentiel pour les sociétés : choisir entre l'ouverture, qui mène à la catastrophe, et le contrôle total, qui mène à la dystopie.

Si le diagnostic posé par Suleyman est d'une pertinence remarquable, sa proposition de solution, l'endiguement, mérite un examen critique. On peut notamment s'interroger sur son éventuel biais "techno-solutionniste" et sur sa viabilité politique dans le monde fragmenté qu'il décrit lui-même.

- Le biais techno-solutionniste : Suleyman, en tant qu'ingénieur, met fortement l'accent sur des solutions techniques pour maîtriser la technologie : audits de sécurité, red teaming, amélioration de la robustesse des IA. Cependant, cette approche sous-estime peut-être la difficulté fondamentale du problème du contrôle.

Comme le soulignent les chercheurs en sécurité de l'IA, les valeurs humaines sont complexes et contradictoires, ce qui les rend extraordinairement difficiles à traduire en code. De plus, une IA suffisamment avancée sera capable d'exploiter la moindre faille dans ses contraintes, un problème connu sous le nom de "stratégie la plus proche non bloquée". L'optimisme quant à notre capacité à résoudre les problèmes créés par la technologie en utilisant simplement plus de technologie pourrait s'avérer dangereux.