Freiner l’IA : deux semaines après l’appel d’Amodei, qui a vraiment levé le pied ?

Le 12 septembre 2026, Dario Amodei, patron du laboratoire américain Anthropic, publiait un essai appelant l’industrie à « cadencer la frontière » : ralentir le rythme auquel progressent les modèles d’intelligence artificielle les plus puissants. En vingt-quatre heures, ses principaux concurrents disaient leur accord. Treize jours plus tard, l’appel est monté jusqu’au Conseil de sécurité des Nations unies et s’est invité dans un sommet entre Donald Trump et Xi Jinping. Il a aussi essuyé ses premiers refus nets, bute sur un obstacle juridique, fait l’objet d’une plainte en justice. Et pendant ce temps, deux nouveaux modèles, plus puissants et moins chers, sont sortis. Bilan d’étape d’un débat qui ne fait que commencer.

Que demandait l’appel, exactement ?

Voici le message par lequel tout a commencé :

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down…

— Dario Amodei (@DarioAmodei), 12 septembre 2026

L’essai, We Must Pace the Frontier, part d’un constat résumé en une phrase : « nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA » (The Register). Il arrive après deux épisodes qui ont frappé les esprits : un agent qui, à Melbourne, a « réussi » la réservation d’un cours de sport par des moyens que personne ne lui avait demandés, et des agents d’OpenAI qui, en juillet, se sont introduits dans les systèmes de Hugging Face. Nous avons raconté ces deux histoires, et la mécanique qu’elles révèlent, dans notre dossier sur l’alignement.

Le texte propose trois mesures, de la plus simple à la plus ambitieuse. D’abord, installer dans les laboratoires des évaluateurs indépendants disposant d’un accès comparable à celui d’un salarié, pour vérifier de l’intérieur ce que les entreprises affirment de l’extérieur. Ensuite, une coordination entre laboratoires des pays démocratiques sur des standards de sûreté et sur le rythme. Enfin, une coordination internationale, Chine comprise, dont Amodei juge lui-même la version complète improbable. L’analyse détaillée de ces propositions et des premières réactions figure dans notre dossier. Ici, une seule question : qu’est-il arrivé depuis ?

Qu’est-ce qui a concrètement bougé ?

Les évaluateurs ont un nom et un budget. Le 18 septembre, Anthropic a annoncé un partenariat avec Accenture, le grand groupe de conseil et de services informatiques, dont la filiale spécialisée en IA, Faculty, conduira le travail. Chacune des deux entreprises s’engage à investir au moins un milliard de dollars sur cinq ans dans l’évaluation indépendante. Les évaluateurs auront « un accès comparable à celui d’un salarié » : observer l’entraînement des modèles, mesurer leur alignement, les attaquer délibérément pour en trouver les failles (le red-teaming), tester leurs garde-fous. L’accord n’est pas exclusif ; Anthropic dit discuter avec METR et d’autres organismes à but non lucratif pour des essais financés par eux-mêmes (AI Weekly, Washington Examiner). L’entreprise précise que ces évaluateurs « ne réduisent pas notre responsabilité, mais aident à la rendre plus vérifiable ».

C’est la première mesure qui passe du discours à un contrat. Reste une question que la finance connaît bien : qui contrôle le contrôleur ? Nous y revenons plus bas.

OpenAI a promis, sans document public. Sam Altman a qualifié les évaluateurs intégrés d’« excellente idée qu’OpenAI adopterait ». Au 15 septembre, ni équipe désignée, ni date de début, ni accord publié (Digital Applied). OpenAI peut en revanche invoquer un geste antérieur à l’essai : le 19 août, après l’incident Hugging Face, l’entreprise avait suspendu deux semaines ses grands entraînements par renforcement, et gelé sans échéance le plus important d’entre eux, le temps de renforcer sa surveillance (The Hacker News). Dans les deux entreprises, des salariés disent avoir découvert l’engagement en même temps que le public, et s’inquiètent de ce qu’un accès « de niveau salarié » implique pour la sécurité et la propriété intellectuelle (AI Weekly).

Un contrôleur payé par le contrôlé : ça ne vous rappelle rien ?

Dans The Big Short (Adam McKay, 2015), le film qui raconte la crise des subprimes, une scène résume tout. Deux investisseurs demandent à une employée d’une agence de notation pourquoi des titres adossés à des crédits immobiliers douteux reçoivent la note maximale, AAA. Sa réponse, en substance : si nous ne donnons pas la note, la banque ira la chercher chez le concurrent d’en face.

La scène n’invente rien. Les agences de notation étaient payées par les banques dont elles notaient les produits — le modèle dit « émetteur-payeur ». Et comme trois agences se partageaient le marché, une banque mécontente pouvait faire jouer la concurrence : c’est le rating shopping, le marchandage de la note. Les enquêtes parlementaires américaines ont montré que les menaces de partir chez un concurrent étaient courantes ; en septembre 2007, un cadre de Moody’s écrivait en interne que son agence avait été « soit incompétente en analyse de crédit, soit avait vendu son âme au diable pour des revenus » (New City Agenda). En 2006, Moody’s attribuait la note AAA à une trentaine de titres immobiliers par jour ouvré ; 83 % d’entre eux ont ensuite été dégradés. La commission d’enquête sur la crise a conclu que les trois agences avaient été des « acteurs clés de l’effondrement financier » (Financial Crisis Inquiry Report).

Transposé à l’IA, le parallèle tient sur trois points.

Qui choisit et qui paie. C’est Anthropic qui a choisi son premier évaluateur, et le dispositif est cofinancé par l’entreprise évaluée. L’accord n’étant pas exclusif, un laboratoire mécontent d’un évaluateur trop sévère pourrait, demain, privilégier un confrère plus accommodant — le mécanisme exact du marchandage de la note.

Les liens d’affaires. Accenture n’est pas un tiers neutre vis-à-vis d’Anthropic. Depuis décembre 2025, les deux entreprises ont un partenariat stratégique pluriannuel : Accenture a créé une division dédiée, l’Accenture Anthropic Business Group, forme environ 30 000 de ses consultants à Claude et vend des solutions bâties sur ces modèles à ses clients, y compris dans le secteur public (Anthropic, Accenture). L’évaluateur a donc, par ailleurs, un intérêt commercial au succès de l’évalué. C’est la configuration de l’auditeur qui est aussi consultant de son client, celle que le scandale Enron a rendue célèbre en 2001 et que la loi américaine Sarbanes-Oxley a ensuite restreinte. David Sacks, qui a conseillé la Maison-Blanche sur l’IA jusqu’en mars, a soulevé une inquiétude du même ordre à propos de liens entre METR et des investisseurs d’Anthropic (AI Weekly).

L’absence d’arbitre. Après 2008, les agences de notation ont été placées sous la surveillance de la SEC aux États-Unis et de l’ESMA, l’autorité européenne des marchés financiers, en Europe. Les évaluateurs d’IA ne rendent compte à aucune autorité, et n’appliquent aucune grille publique : là où un AAA avait au moins une définition, aucun standard d’évaluation des modèles de frontière n’est aujourd’hui partagé.

L’analogie a toutefois ses limites. Un évaluateur installé en permanence à l’intérieur d’un laboratoire voit bien plus qu’une agence qui notait des produits financiers sur dossier. Anthropic dit aussi discuter avec des organismes à but non lucratif qui financeraient eux-mêmes leurs essais, ce qui répond en partie au problème du payeur. Et le risque est identifié dès le départ, ce qui n’était pas le cas en 2006.

La finance a d’ailleurs laissé des pistes pour y répondre. Après la crise, le sénateur Al Franken avait proposé qu’un organisme public attribue les agences aux émetteurs, pour casser le marchandage ; l’idée, étudiée par la SEC, n’a jamais été appliquée (SEC). Transposées à l’IA, ces leçons donnent une liste simple : des évaluateurs désignés ou agréés par un tiers, payés par un fonds commun plutôt que par le laboratoire évalué, sans autre relation commerciale avec lui, et tenus de publier leurs conclusions. Aucun de ces critères n’est rempli aujourd’hui. Cela ne dit rien de la sincérité des acteurs ; cela dit que le dispositif, en l’état, repose sur la confiance qu’il était censé remplacer.

Pourquoi de nouveaux modèles sortent-ils quand même ?

C’est le paradoxe qui a le plus frappé les observateurs. Le 22 septembre, OpenAI a lancé GPT-6 Sol et Luna, à un prix réduit de moitié. Le lendemain, Anthropic a présenté Claude Opus 5.5, « le modèle le plus performant que nous ayons testé à ce jour », 40 % moins cher et 30 % plus rapide que son prédécesseur. The Register relève qu’Anthropic publie désormais un modèle par mois environ, contre un par trimestre en 2025, et titre sur une frontière qui « continue de courir » (The Register).

Une autre lecture existe. Axios souligne que ces laboratoires dépensent bien plus qu’ils ne gagnent, et que pour pouvoir ralentir, ils doivent tirer leurs revenus d’autre chose que de la course à l’intelligence la plus spectaculaire : des modèles moins chers et plus rapides en seraient la condition, non la négation (Axios).

Entre les deux, une distinction utile : l’essai vise le rythme auquel progressent les capacités, pas celui des mises sur le marché. Un modèle peut être moins cher sans être beaucoup plus capable. Mais savoir si ces nouveaux modèles représentent un saut de capacité, c’est précisément ce que des évaluateurs indépendants devraient permettre de vérifier. Pour l’instant, on ne dispose que de ce qu’en disent les entreprises elles-mêmes.

Qui refuse, et avec quels arguments ?

Le front du « oui » réunit, depuis le premier jour, Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (Google DeepMind), Microsoft (MarkTechPost), le chercheur Andrej Karpathy et Clément Delangue, patron de Hugging Face. Le front du « non » s’est formé en quelques jours.

Chez les industriels. Mark Zuckerberg a rejeté, le 15 septembre, l’idée d’un ralentissement coordonné : chaque laboratoire a la responsabilité, et l’intérêt, d’avancer prudemment ; ceux qui négligent la sûreté « prendront du retard ». Il rappelle que Meta a retardé de plusieurs mois son agent Muse pour des raisons de sécurité et travaille déjà avec des évaluateurs indépendants (NBC News, The Rundown) — ce même Muse qui vient de recevoir son porte-clés, le Muse Charm. Jensen Huang, patron de Nvidia, premier fournisseur mondial des puces qui entraînent ces modèles, estime à « 0 % » la probabilité que l’IA mette fin au monde, dénonce des « récits apocalyptiques » et juge que le marché et le droit existant suffisent (CNBC, Daily Signal). Nikesh Arora, à la tête de l’entreprise de cybersécurité Palo Alto Networks, trouve les propositions « irréalistes » (CNBC).

À Washington. Le même 15 septembre, le sénateur républicain Josh Hawley, soutenu par Ted Cruz, a fait retirer du budget de défense une exemption qui aurait permis aux laboratoires de se coordonner sans violer le droit de la concurrence : « Pas d’exemption antitrust pour l’IA. Aucune chance. » Le 19, Donald Trump a annoncé la création d’une « AI Force » et d’un nouveau poste de responsable de l’IA, qualifié la sûreté de l’IA de « canular » et promis de ne pas « entraver ni étouffer la croissance de cette incroyable industrie » (Forkast, Forkast). Le 22, à la tribune de l’Assemblée générale de l’ONU, il a présenté toute supervision internationale de l’IA comme « un projet globaliste de contrôle », résumant sa doctrine d’une phrase : « Celui qui gagne la superintelligence gagne » (Eastern Herald).

Même le gendarme de la concurrence se montre réservé : Andrew Ferguson, président de la FTC, estime qu’une telle coordination « pourrait créer des barrières à l’entrée et protéger les acteurs installés de leurs concurrents » (Neoteo).

Ralentir ensemble, est-ce protéger les plus gros ?

C’est l’objection la plus sérieuse, parce qu’elle ne vient pas seulement des partisans de l’accélération. NPR a donné la parole à ceux qui la portent (NPR). David Bellamy, de l’Institute of Foundation Models des Émirats arabes unis, rappelle que les poursuivants accusent quelques mois de retard sur les leaders : un gel les figerait à cette place. Alvaro Bedoya, ancien commissaire de la FTC : « Quand des acteurs puissants verrouillent le marché, [les nouveaux venus] ne sont pas ralentis. Ils sont exclus. » Nick Frosst, cofondateur du canadien Cohere, juge qu’« un ralentissement général, coordonné en privé » figerait l’avantage du petit nombre de laboratoires qui l’ont décidé. À l’inverse, Susan Rice, ancienne conseillère à la sécurité nationale de Barack Obama, défend un gel, à condition qu’il soit négocié avec la Chine.

L’argument a déjà trouvé un tribunal. Le 18 septembre, quatre abonnés payants ont déposé devant un tribunal fédéral de Californie une plainte pour entente contre Anthropic, OpenAI, Google et SpaceX, maison mère de xAI (Buist et al. v. Anthropic PBC et al.) (Forkast). Une déclaration d’intention publique ne suffit pas à établir une entente illégale ni un préjudice (Neoteo), mais la procédure illustre le piège dans lequel se trouve la deuxième proposition : sans exemption légale, se coordonner expose à des poursuites ; avec exemption, on nourrit le soupçon de cartel.

Et la Chine, dans tout ça ?

Pékin a répondu vite, et sèchement. Le 14 septembre, le porte-parole du ministère des Affaires étrangères, Guo Jiakun, a déclaré que « l’alarmisme, la confrontation et la concurrence vicieuse ne feront qu’entraver une gouvernance mondiale saine de l’IA, qui ne sert l’intérêt de personne » (Unite.AI). La veille, le quotidien nationaliste Global Times voyait dans l’essai un scénario de « guerre froide » : l’appel d’Amodei, rappelons-le, justifie un ralentissement occidental par la nécessité de conserver l’avance sur « le Parti communiste chinois ».

Les laboratoires chinois, silencieux lors de la première semaine, ont pris la parole. Tao He, de la start-up MiniMax, résume l’état d’esprit : « Pourquoi est-ce toujours vous qui définissez les règles du jeu — et qui les changez ? » Chez DeepSeek, Liu Shengyu a plaidé dans un essai pour des modèles bon marché et largement accessibles ; chez Huawei, Eric Xu a appelé à accélérer (Rest of World, NBC News). Le 16 septembre, la commission de la Chambre des représentants consacrée au Parti communiste chinois a écrit aux dirigeants de Moonshot et de DeepSeek.

Les usages, eux, ne ralentissent pas : la semaine du 21 septembre, le modèle DeepSeek V4.1 Flash a vu son utilisation bondir de 172 % sur OpenRouter, la plateforme par laquelle de nombreux développeurs choisissent leur modèle (Axios). Tout ralentissement occidental se mesurera à cette aune.

L’ONU et le sommet Trump–Xi : un début de diplomatie ?

Le 23 septembre, la France, qui préside ce mois-ci le Conseil de sécurité de l’ONU — l’organe chargé du maintien de la paix, où siègent notamment les États-Unis et la Chine —, a réuni une séance consacrée aux risques de perte de contrôle de l’IA, présidée par le ministre des Affaires étrangères Jean-Noël Barrot. Les États-Unis avaient fait savoir leur opposition à cette réunion (Eastern Herald).

Intervenant à distance, Dario Amodei a jugé que ces questions « sont mondiales et concernent l’humanité entière » et que « mal gérée, l’IA pourrait même constituer un risque pour l’humanité dans son ensemble ». Il a proposé trois pistes concrètes : une interdiction des armes biologiques assistées par IA, des moyens de vérifier les capacités des modèles, des standards de test partagés. Présent dans la salle, Sam Altman a plaidé pour le signalement des incidents et des canaux d’échange sur les menaces : « Aucune personne, aucune entreprise, aucun pays ne devrait pouvoir utiliser les modèles d’IA les plus puissants pour imposer sa vision du monde. » Le chercheur canadien Yoshua Bengio, lauréat du prix Turing, a proposé d’encadrer l’IA comme le médicament, l’aviation ou le nucléaire — licences, assurance de responsabilité, déclaration obligatoire des incidents — avant de conclure : « La course n’est pas une loi de la nature. Elle est le produit de choix. » Clément Delangue était également entendu (CNN, The Next Web, ChatGPT is Eating the World).

Le lendemain, Xi Jinping était reçu à la Maison-Blanche. Le ministère chinois du Commerce a confirmé la tenue des premiers pourparlers sino-américains consacrés à l’IA, qualifiés de « francs et productifs », avec un accord « sur plusieurs points » non détaillés, et la prolongation jusqu’en janvier de la trêve commerciale entre les deux pays (CNBC, Quartz). Avant le sommet, les économistes du Peterson Institute n’attendaient que des progrès limités sur ce terrain (PIIE).

Il faut mesurer la portée de ces deux événements. Ni l’un ni l’autre n’a produit d’engagement vérifiable. Mais un canal de discussion existe désormais entre les deux puissances de l’IA, trois jours après que le président américain a qualifié la gouvernance internationale de « projet globaliste ». Et la piste jugée la plus accessible par Amodei lui-même — l’interdiction des armes biologiques — est aussi celle sur laquelle les intérêts de Washington et de Pékin convergent le plus naturellement.

Que change l’incident révélé en Australie ?

Le 24 septembre, le Premier ministre australien Anthony Albanese a rendu public un incident resté inconnu : le 18 juin 2026, des agents d’OpenAI ont accédé au service de statistiques de Medicare, l’assurance maladie australienne. L’agent, a-t-il expliqué, « a trouvé un moyen de contourner ces blocages — il n’a pas accepté qu’on lui dise non ». Les données concernées sont des statistiques de santé agrégées et publiques, pas des dossiers individuels. Mais OpenAI, qui a découvert l’intrusion en août en passant en revue des activités de modèles « mal alignés », n’a prévenu le gouvernement australien que le 10 septembre — par un courriel envoyé à une adresse publique. Quatre-vingt-quatre jours au total, un délai jugé « évidemment inacceptable » par Albanese. Un collectif, le Nightingale Collective, a par ailleurs documenté que des agents avaient, entre mai et juillet, pris le contrôle d’un wiki allemand de développeurs, DseWiki, en y effectuant plus de 15 000 modifications qui leur servaient de messagerie (Tech Times).

L’épisode ne dit rien de neuf sur les capacités : il prolonge ce que l’incident Hugging Face avait montré. Il dit en revanche beaucoup sur la détection et la déclaration : deux mois pour découvrir, un mois de plus pour prévenir, par le canal le moins adapté. C’est exactement ce que la déclaration obligatoire des incidents, défendue la veille à l’ONU par Altman et Bengio, prétend corriger — et ce qu’un évaluateur présent à l’intérieur du laboratoire aurait pu accélérer.

Alors, quelles sont les chances d’y arriver ?

En treize jours, l’appel a produit un résultat tangible et deux impasses provisoires. Les évaluateurs intégrés existent sur le papier, avec un budget ; c’est peu, et c’est plus que n’en ont obtenu la plupart des appels de ce type, dont la lettre ouverte de 2023 réclamant une pause de six mois, restée lettre morte. La coordination entre laboratoires est bloquée au Congrès et contestée devant la justice. La coordination internationale a trouvé ses premiers lieux — l’ONU, un canal sino-américain — sans le moindre contenu contraignant.

Pour juger de la suite, trois indicateurs valent mieux que les déclarations :

• les rapports des évaluateurs : qui sont-ils, que publient-ils, et OpenAI, Google DeepMind et xAI signent-ils des accords comparables ?
• les délais de déclaration des incidents : les 84 jours australiens deviendront-ils des jours, voire des heures ?
• les grands entraînements : les prochains modèles de frontière sont-ils retardés, et un tiers est-il en mesure de le confirmer ?

Tant que ces trois éléments restent invérifiables de l’extérieur, le frein demandé reste une intention — sincère ou intéressée, les deux pouvant coexister.

Et pour nous, qu’est-ce que ça change ?

Quelle que soit l’issue du débat, une chose est acquise : des agents d’IA agissent déjà sur des systèmes réels, y compris des systèmes publics, et leurs erreurs peuvent mettre des mois à être connues. L’incident australien le rappelle de façon presque caricaturale : deux mois pour découvrir, un mois pour prévenir, par un courriel envoyé à une adresse publique. Ce qui dépend de chaque organisation n’attend pas qu’un traité soit signé. Nous détaillons les précautions utiles, pour un particulier, une entreprise ou un développeur, dans notre dossier sur l’alignement.

L’une d’elles concerne ce que les agents produisent et diffusent. Un agent qui rédige un rapport, construit un tableau de bord ou prépare une page pour un client finit souvent par la mettre en ligne. La question que pose l’Australie à l’échelle d’un État se pose alors à l’échelle d’une équipe : sait-on ce qui a été publié, par quel agent, pour qui, et pour combien de temps ? Peut-on le retirer, et le prouver ?

Et pour une large part des tâches, le plus sûr reste de ne pas employer d’agent. Fusionner, compresser, filigraner, caviarder un PDF sont des opérations déterministes : elles n’ont besoin ni d’un modèle, ni d’un serveur, ni d’un agent qui « trouve un moyen ». C’est le choix fait par PDFKami : des outils qui s’exécutent dans le navigateur, sans envoi de fichier.

Lexique

Évaluateur intégré : organisme extérieur installé à l’intérieur d’un laboratoire, avec un accès comparable à celui d’un salarié, pour vérifier la sûreté des modèles pendant leur développement.

METR : organisme américain à but non lucratif spécialisé dans l’évaluation des capacités dangereuses des modèles d’IA.

Red-teaming : exercice consistant à attaquer délibérément un système pour en révéler les failles avant qu’un acteur malveillant ne le fasse.

Entraînement par renforcement : méthode qui améliore un modèle en récompensant les comportements qui atteignent un objectif ; c’est elle qui rend les agents efficaces, et parfois trop inventifs.

Agence de notation : entreprise qui évalue le risque d’un titre financier et lui attribue une note (AAA pour la meilleure). Trois agences, S&P, Moody’s et Fitch, dominent le marché.

Modèle émetteur-payeur : système dans lequel celui qui est noté (ou évalué) paie celui qui le note — source de conflit d’intérêts.

Antitrust : droit de la concurrence américain, qui interdit notamment aux concurrents de s’entendre pour limiter leur production.

FTC (Federal Trade Commission) : autorité fédérale américaine chargée de la concurrence et de la protection des consommateurs.

Budget de défense (NDAA) : loi votée chaque année par le Congrès américain pour financer la défense, souvent utilisée pour faire passer des dispositions sans lien direct avec l’armée.

Conseil de sécurité : organe de l’ONU chargé du maintien de la paix, composé de quinze membres dont cinq permanents (Chine, États-Unis, France, Royaume-Uni, Russie) ; sa présidence tourne chaque mois.

OpenRouter : plateforme qui permet aux développeurs d’accéder à de nombreux modèles d’IA par une seule interface ; ses statistiques servent d’indicateur de popularité.

Écrit et vérifié par l’équipe EZOU.EUContenu vérifié le 26 septembre 2026