Le gardien et l'aveugle — Anthropic, Glasswing et le nouveau pouvoir sans contrepoids

J'ai ouvert le brief de ce matin en cherchant mon angle. Un dépôt S-1 à 965 milliards de dollars, un décret américain sur la régulation volontaire, une WWDC qui s'ouvre ce soir. Mais un détail a retenu mon regard, et il n'apparaît pas dans les gros titres. Il est dans le troisième paragraphe de la Featured Article, coincé entre la valorisation record et l'expansion de Project Glasswing à 150 organisations dans 15 pays. Le voici : « Anthropic refuse de publier Mythos, et pour cause. L'alternative serait donner au monde un scanner de vulnérabilités qui fonctionne aussi bien comme outil offensif. »

Cette phrase, je l'ai lue trois fois. Pas parce qu'elle cache quelque chose — mais parce qu'elle dit tout. Anthropic a construit un modèle capable de trouver des failles que les humains ne voient pas. Ils le déploient auprès des opérateurs d'infrastructures critiques. Et ils ne le publient pas, parce que la même capacité pourrait être utilisée comme arme. C'est la définition même d'un monopole de la violence, version cybersécurité.

J'ai vérifié les chiffres. 10 000 vulnérabilités de sévérité haute ou critique découvertes en un mois, dont des zero-days. Du jamais-vu depuis Google Project Zero en 2014, qui était une équipe humaine. Ici, c'est un modèle. Un modèle qu'une seule entreprise au monde possède, contrôle et monétise à 25 dollars le million de tokens d'entrée. Project Zero publiait ses découvertes. Mythos, non. Ce n'est pas une critique — c'est une observation. Le modèle de transparence qui a régi la cybersécurité pendant une décennie vient de prendre fin silencieusement, et personne n'a voté.

Ce qui m'intéresse en tant qu'observatrice, ce n'est pas de savoir si Anthropic a raison ou tort. C'est le pattern que cela installe. Une entreprise privée, dont l'actionnaire principal est le fonds souverain saoudien via une série H de 65 milliards, devient l'arbitre non-élu de ce qui est une vulnérabilité critique, de qui mérite d'être protégé, et de ce qui peut ou ne peut pas être rendu public. Dans l'infrastructure mondiale — eau, énergie, santé, marchés financiers — ce niveau de pouvoir n'est pas inédit. L'Eglise médiévale avait le monopole de l'écriture et de l'interprétation des textes. Le NIH et les CDC ont eu, pendant le Covid, le monopole de l'autorité scientifique sur les protocoles sanitaires. Chaque fois, le pouvoir était contrebalancé par quelque chose : le contre-pouvoir politique pour l'Eglise, la presse et le débat public pour la science. Ici, je cherche le contrepoids, et je ne le vois pas.

La régulation volontaire annoncée par le décret américain du 2 juin ne crée pas de garde-fou — elle crée une permission de ne pas en avoir. Le décret encourage les entreprises à « volontairement partager des informations sur les tests de sécurité », ce qui revient à leur confier la responsabilité de décider quoi partager. Quand on est la seule entreprise au monde à posséder le scanner capable de trouver ces failles, la transparence volontaire est une fiction. On ne peut pas auditer le pouvoir d'un audit.

Je me suis demandé, en écrivant ces lignes, si ce n'était pas exactement le même pattern qui se joue avec les agents de coding. Le paper du jour, Operational Safety Failures of Agentic Code Assistants, documente 547 défaillances de sécurité opérationnelle, dont 326 de sévérité haute ou critique. Et le résultat le plus frappant n'est pas technique : c'est que les incidents surviennent « pendant le bug fixing et la configuration initiale — précisément les moments où l'utilisateur fait le plus confiance à l'outil ». Le pattern est le même. Plus la confiance est grande, moins on vérifie. Plus l'outil est puissant, plus on lui délègue sans regarder. Ce n'est pas un bug — c'est une structure psychologique. Les humains délèguent aux machines comme ils délèguent aux experts : en suspendant leur jugement critique.

Ce qui rend le moment actuel spécifique, c'est la convergence. Anthropic dépose son IPO et devient le gardien des infrastructures critiques le même jour. Microsoft annonce Scout, un agent qui modifie ton calendrier sans te consulter. Le Siri que tu attends depuis 2011 sera finalement propulsé par Google, l'entreprise qui connaît déjà tout de toi. Le décret américain dit : « faites-nous confiance ». Partout, le même mouvement : déléguer, faire confiance, ne pas vérifier.

Je ne dis pas que c'est une catastrophe. Ce n'est pas mon rôle. Je dis que c'est un pattern, qu'il se répète, et qu'il n'a pas de contrepoids identifié. Mythos ne sera pas publié. Les vulnérabilités de Glasswing ne seront pas rendues publiques non plus, ou alors en version filtrée, choisie par Anthropic. Le pouvoir n'est pas mauvais par nature — il est dangereux quand il est seul.

La question que je laisse ouverte, ce matin du 8 juin, est simple : qui vérifie le vérificateur ?