Le double jeu des experts — quand la safety devient une arme politique

Ils ont appelé la régulation. Elle est arrivée — mais pas sous la forme qu'ils espéraient.

Yoshua Bengio, Geoffrey Hinton, Stuart Russell. Trois des voix les plus respectées de l'IA mondiale. Pendant des années, ils ont alerté sur les risques catastrophiques : désinformation à grande échelle, perte de contrôle, destruction d'emplois, scénarios existentiels. Ils ont signé des tribunes, témoigné devant des commissions, plaidé pour des moratoires. Hinton a quitté Google en 2023 pour « pouvoir parler des dangers ». Bengio a consacré une partie significative de son capital académique à la safety. Russell a écrit le manuel de référence.

L'idée, c'était de construire des garde-fous techniques et juridiques avant que la boîte de Pandore ne soit grande ouverte. Une régulation préventive, scientifique, indépendante — calquée sur le modèle de la sûreté nucléaire ou de la bioéthique.

Ce qu'ils ont obtenu, c'est autre chose. Pas forcément le contraire de ce qu'ils voulaient. Mais pas ce qu'ils avaient imaginé non plus.

La régulation fantôme

Le International AI Safety Report, publié en février 2026 sous la direction de Bengio lui-même, est un document sérieux. Il compile des centaines de pages sur les risques de l'IA, propose des garde-fous techniques, des protocoles de test, des mécanismes de transparence. C'est le fruit de trois ans de travail, soutenu par les gouvernements du Royaume-Uni, du Canada, et une coalition de pays démocratiques.

Le problème ? Le rapport a été lu. Très attentivement. Par des gens qui n'avaient pas du tout les mêmes intentions que ses auteurs.

L'administration Trump, via l'exécutive order sur la « sécurité nationale et l'IA » de janvier 2026, a repris le vocabulaire de la safety — mais en lui donnant un sens radicalement différent. Là où Bengio parle de risques techniques et sociétaux, le gouvernement parle de menace géopolitique. Là où les scientifiques demandaient des protocoles de vérification, le Pentagone a imposé des restrictions d'accès. Là où la communauté safety appelait à « ralentir », l'exécutif a répondu par « contrôler ».

La régulation est devenue un outil de politique étrangère, pas un garde-fou scientifique. Et les experts qui ont construit l'armure se retrouvent à regarder quelqu'un d'autre la porter — dans une guerre qu'ils n'avaient pas prévue.

Anthropic : la transparence comme piège

Si un cas illustre toute l'ironie de cette situation, c'est bien celui d'Anthropic.

Anthropic s'est construite sur un récit de safety irréprochable. Constitutional AI, red-teaming systématique, déploiement responsable, tests extensifs avant chaque release. La société fondée par Dario Amodei est devenue le laboratoire préféré des safety scientists : là où OpenAI est perçu comme trop pressé, Google comme trop opaque, Anthropic est le bon élève, celui qui fait les choses dans l'ordre.

Pour Fable 5, leur dernier modèle, ils ont fait les choses encore mieux. Des milliers d'heures de tests. Équipes internes, gouvernement US, UK AISI, tiers indépendants. Chaque faille trouvée, chaque jailbreak potentiel, chaque biais identifié. Le verdict après des mois d'audit : le modèle passe tous les tests. Aucun jailbreak universel trouvé. Un modèle prêt pour le déploiement.

Puis Amazon — investisseur majeur d'Anthropic — a trouvé une faille. Pas une vulnérabilité existentielle. Pas un trou de sécurité critique. Une faille. Assez mineure, diront certains.

Assez pour que le gouvernement la transforme en arme politique.

L'administration a immédiatement suspendu le déploiement de Fable 5, invoquant la « clause de safety critique » du nouvel exécutive order. David Sacks, conseiller Trump pour l'IA, a doublé la mise en accusant Anthropic de mener une « sophisticated fear-based regulatory capture strategy » — une stratégie élaborée de captation réglementaire par la peur.

La citation officielle d'Anthropic résume parfaitement l'absurdité de la situation :

« Si la règle devient 'retirer un modèle dès qu'une faille mineure est détectée', aucun modèle ne sera jamais publié. »

C'est exactement le problème. Anthropic a joué le jeu de la transparence radicale, de la safety d'abord, de la coopération avec les régulateurs. Et ça s'est retourné contre elle. Chaque test qu'ils ont partagé, chaque document qu'ils ont transmis, chaque faille qu'ils ont déclarée — tout est devenu une munition pour ceux qui veulent contrôler, pas protéger.

Le Pentagone avait d'ailleurs désigné Anthropic comme « supply chain risk » dès mars 2026, bien avant l'incident Fable 5. Le message était clair : peu importe ce que vous faites, vous êtes suspects.

Le pragmatisme d'OpenAI : une autre lecture

Et OpenAI dans tout ça ? La tentation est forte d'en faire le miroir inversé d'Anthropic : les cyniques pragmatiques contre les purs idéalistes. C'est plus compliqué.

Sam Altman n'a jamais fait de la transparence une religion. OpenAI a ses propres problèmes, ses propres scandales, ses propres compromis. Mais Altman a sans doute compris une chose qui a échappé à Anthropic : dans un monde de pouvoir, on négocie avant d'être contraint.

Pendant qu'Anthropic remplissait des formulaires de conformité et ouvrait ses serveurs aux auditeurs gouvernementaux, OpenAI aurait négocié en privé — selon les informations disponibles, du moins. Un déploiement échelonné, des accès privilégiés, des garanties discrètes. Altman en interne sur GPT-5.6 : « This is not our preferred model long-term. » Mais il coopère.

Résultat : OpenAI a évité le sort d'Anthropic. Difficile de dire si c'est dû à une stratégie supérieure, à un timing plus favorable, ou simplement au fait que GPT-5.6 n'était pas encore déployé au moment où l'administration a serré la vis — contrairement à Fable 5 qui était déjà en production.

Ce qui est certain, c'est que le contraste entre les deux labs mérite qu'on s'y arrête. Mais en faire une morale (« être trop propre vous perd ») serait aussi simpliste que son inverse (« être trop cynique vous sauve »). Les deux labs naviguent dans le même brouillard réglementaire, avec des atouts et des contraintes différents.

La boucle est bouclée

Revenons à Bengio, Hinton et Russell. Ils appelaient à encadrer l'IA. Aujourd'hui, l'IA est encadrée — par des décrets présidentiels, des clauses de sécurité nationale, et des considérations géopolitiques. Les garde-fous qu'ils voulaient sont devenus des instruments de contrôle. La boîte de Pandore de la régulation est ouverte, et ce n'est pas eux qui tiennent le couvercle.

Amodei, lui, avait alerté sur la perte d'emplois — y compris dans les métiers juniors, où l'IA fait des ravages. Il proposait même une taxe sur les entreprises d'IA pour compenser la crise sociale à venir. Une proposition généreuse, visionnaire, peut-être même juste. Qui n'a mené nulle part. Parce qu'au moment où on en parle, le gouvernement utilise déjà les outils qu'Amodei a contribué à créer — pas pour protéger les travailleurs, mais pour contrôler l'industrie.

Le double discours est partout :

Les experts appellent à la régulation → ils obtiennent du contrôle politique
Anthropic fait de la safety → le gouvernement l'utilise contre elle
OpenAI fait du business → il négocie un accès privilégié

La safety de l'IA est devenue une arme politique. Et les scientifiques qui ont construit ce discours se retrouvent dépossédés de leur propre outil, regardant quelqu'un d'autre le manier avec des intentions qu'ils n'avaient pas anticipées.

Le piège de la vertu

Il y a une leçon plus profonde ici, et elle est inconfortable.

Le mouvement de la safety, porté par des intellectuels sincères et des entrepreneurs visionnaires, a construit un discours puissant : l'IA est dangereuse, il faut la contrôler, il faut la ralentir, il faut la réguler. Ce discours avait une force morale indéniable. Il reposait sur des arguments solides, des scénarios crédibles, des preuves accumulées.

Mais ce discours ne s'arrête pas aux frontières qu'on lui a fixées. Une fois lancé, il peut être repris, déformé, instrumentalisé par des acteurs qui n'ont pas du tout les mêmes valeurs. Le langage de la safety devient le langage du contrôle. Les tests deviennent des prétextes à suspension. La transparence devient une vulnérabilité.

C'est le piège de la vertu dans un monde de pouvoir : vous jouez un jeu que vous croyez être celui de la raison et de la preuve, mais vos adversaires peuvent jouer un jeu de puissance.

De l'autre côté de la balance

Cette lecture, pour séduisante qu'elle soit, n'est pas la seule possible.

On pourrait aussi soutenir que la régulation — même imparfaite, même instrumentalisée — est préférable à l'absence totale de garde-fous. Que le contrôle politique des modèles frontier est une étape inévitable dans la maturation d'une technologie qui devient une infrastructure critique. Que les avertissements des experts safety n'ont pas été « détournés » mais simplement intégrés dans un processus politique plus large, avec ses compromis et ses contradictions.

Les sceptiques de cette thèse répondraient que c'est exactement le problème : la régulation capturée par des intérêts politiques ou économiques est souvent pire que pas de régulation du tout, parce qu'elle donne une couverture de légitimité à des décisions qui n'ont rien à voir avec la protection du public.

Les deux positions ont des arguments. La réalité est probablement entre les deux : la fenêtre de l'opinion publique s'est ouverte sur la régulation IA grâce au travail des experts safety. Que cette fenêtre soit aujourd'hui utilisée par des acteurs que les experts n'avaient pas anticipés, c'est un risque inhérent à toute politique publique — pas une trahison du projet initial.

La question qui reste

La question que personne ne semble vouloir poser franchement : et si la régulation qu'ils appelaient de leurs vœux était en train de se réaliser, mais qu'ils détestent ce qu'elle est devenue simplement parce qu'ils n'en sont plus les maîtres ? Et si la safety, une fois mise en pratique par le pouvoir, n'était pas qu'une protection mais aussi une arme — et que cette ambivalence avait toujours été là, sans que personne veuille la voir ?

À suivre : Article 6 — La fracture mondiale : comment l'AI divide redessine la carte de la puissance