Et si un laboratoire d'IA demandait lui-même qu'on appuie sur le frein ? Le 4 juin 2026, l'Anthropic Institute, la cellule de réflexion du laboratoire américain Anthropic, a publié une proposition qui détonne : organiser une pause mondiale coordonnée du développement des intelligences artificielles les plus avancées. Le motif est inhabituel dans la bouche d'une entreprise du secteur, puisqu'il s'agit d'éviter que les humains ne perdent le contrôle de la technologie qu'ils sont en train de bâtir.

Un risque baptisé "auto-amélioration récursive"

Au cœur de l'avertissement, un scénario très précis. Anthropic redoute le moment où un système d'IA deviendra capable de concevoir et développer son propre successeur, de façon entièrement autonome et sans supervision humaine. Les chercheurs appellent cela l'auto-amélioration récursive. Le danger, selon eux, n'est pas tant la vitesse que la perte de maîtrise : les rares défauts d'alignement déjà présents dans les modèles actuels pourraient se propager et s'amplifier à chaque génération conçue par la machine.

"Les rares cas de désalignement présents dans les modèles d'aujourd'hui pourraient s'amplifier à mesure que les modèles construisent leurs successeurs, devenant plus fréquents et moins compris, jusqu'à ce que nous en perdions le contrôle."

Pour Jack Clark, cofondateur d'Anthropic, ce seuil n'a rien d'une hypothèse lointaine : certains modèles pourraient atteindre cette capacité d'auto-amélioration d'ici environ deux ans.

Des chiffres qui inquiètent le labo lui-même

Pour étayer son alerte, Anthropic met sur la table ses propres données internes, et elles sont parlantes :

  • Plus de 80 % du code intégré à la base de code de l'entreprise est désormais écrit par Claude, son modèle maison (mai 2026).
  • Les ingénieurs d'Anthropic intègrent environ huit fois plus de code qu'il y a quelques années.
  • Le taux de réussite de Claude sur des tâches ouvertes a atteint 76 % en mai 2026, soit cinquante points de plus en six mois.
  • La capacité des IA à mener des tâches longues à leur terme double désormais tous les quatre mois, contre tous les sept mois auparavant.

Autrement dit, l'IA participe déjà massivement à sa propre construction. Le laboratoire estime que franchir l'étape suivante, celle où la machine pilote seule la conception de la génération d'après, pourrait provoquer un bouleversement social profond.

Une pause presque impossible à mettre en œuvre

Anthropic ne réclame pas un arrêt unilatéral. La proposition n'a de sens que si elle est partagée.

"Nous pensons qu'il serait bon pour le monde d'avoir la possibilité de ralentir ou de suspendre temporairement le développement de l'IA de pointe."

Le laboratoire pose lui-même les conditions, et elles sont vertigineuses : il faudrait que plusieurs laboratoires bien financés, dans plusieurs pays, acceptent de s'arrêter aux mêmes conditions, y compris des acteurs comme la Chine. Il faudrait aussi pouvoir vérifier que les autres ont réellement cessé, avec des mécanismes comparables aux traités de désarmement nucléaire de la Guerre froide. Or surveiller des puissances de calcul réparties dans des centres de données privés est, pour l'heure, hors de portée.

La démarche n'a pas convaincu tout le monde. L'investisseur David Sacks a accusé Anthropic de poursuivre un "agenda de capture réglementaire" destiné à ralentir ses concurrents. L'analyste Rob Enderle juge l'application "pratiquement impossible" compte tenu des enjeux économiques et de sécurité nationale, tandis que d'autres se demandent si l'objectif n'est pas de geler la compétition. Le calendrier nourrit ces soupçons : Anthropic, valorisée près de 1 000 milliards de dollars après une levée de 65 milliards, vient de déposer les documents préparatoires à son entrée en bourse.

Ce que ça veut dire pour la suite

Que l'un des laboratoires les plus avancés du monde tire publiquement la sonnette d'alarme sur sa propre technologie n'est pas anodin. Pour le grand public, le message est double : l'IA progresse assez vite pour que ses propres créateurs envisagent un coup de frein, mais aucun mécanisme international ne permet aujourd'hui de l'organiser. Reste à savoir si cet appel ouvrira un vrai débat sur la gouvernance mondiale de l'IA, ou s'il restera une prise de position parmi d'autres dans une course que personne ne semble vouloir ralentir le premier.