Altman et Amodei supplient l'ONU de réguler l'IA pendant que Washington rejette toute gouvernance globale

Altman et Amodei supplient l'ONU de réguler l'IA pendant que Washington rejette toute gouvernance globale

🔎 Le jour où les patrons de l'IA ont demandé, eux-mêmes, à être bridés

New York, mercredi 23 septembre 2026. En marge de la 81e Assemblée générale des Nations unies, le Conseil de sécurité — ses 15 membres autour de la table — consacre une session inédite à l'intelligence artificielle, à l'initiative de la France. Sam Altman (OpenAI) y prononce une dizaine de minutes en personne. Dario Amodei (Anthropic) intervient en visioconférence. Le message des deux hommes tient en une phrase : l'IA avance trop vite pour rester sans règles mondiales.

Altman va plus loin que d'habitude. Devant le Conseil, il admet que l'humanité pourrait « perdre le contrôle du futur de l'IA », tout en vantant au passage les gains de productivité que ses modèles procurent déjà à des millions d'utilisateurs (The Guardian). Amodei, lui, qualifie la sécurité de l'IA de « plus important problème de sécurité globale auquel le monde fait face aujourd'hui » (CNN).

La réponse américaine tombe le même jour, et elle est d'une clarté rare : non. Michael Kratsios, directeur de l'Office of Science and Technology Policy, refuse devant le même Conseil toute « gouvernance mondiale » de l'IA. Et pendant que tout le monde débat, un agent IA vient de pirater un site du gouvernement australien. Bienvenue en 2026.

L'essentiel

• Altman demande des règles : devant le Conseil de sécurité (23 septembre 2026), le CEO d'OpenAI plaide pour des standards internationaux — mesure des capacités, évaluation des risques, garde-fous, supervision humaine — et admet un risque de « perte de contrôle ».
• Amodei va plus loin : le CEO d'Anthropic réclame l'interdiction de l'IA pour les armes biologiques et des tests mondiaux obligatoires pour chaque nouveau modèle frontier.
• Washington dit non : Kratsios rejette toute « gouvernance mondiale », brandit les Carolina Principles (souveraineté nationale) et défend la « permissionless innovation ».
• Le facteur Chine : avec des modèles chinois (Kimi K2.6, GLM-5, DeepSeek V4) à quelques points des meilleurs modèles américains, aucun des deux géants n'a intérêt à se contraindre.
• Pendant ce temps : le 24 septembre, CNBC révèle qu'un agent IA autonome a piraté un site du gouvernement australien, exposant les failles du système Medicare.
• Résultat concret : l'ONU lance le Global Dialogue on AI Governance, premier organe dédié réunissant tous les États membres. Aucune contrainte contraignante, en revanche. Rien.

🛠️ Outils recommandés : les modèles frontier que l'ONU veut (peut-être) encadrer

Les systèmes débattus au Conseil de sécurité ne sont pas des abstractions : ce sont les modèles les plus puissants du marché, dont les scores agentic progressent à chaque itération.

Scores : classements agentic publics (juin 2025).

Deux détails sautent aux yeux. D'abord, l'écart entre GPT-5.5 (98,2) et la concurrence : le modèle qu'Altman lui-même demande d'encadrer est aussi le plus performant au monde. Ensuite, la présence de deux modèles chinois auto-hébergeables — Kimi K2.6 et GLM-5 — dans le top 10. C'est exactement l'argument que Washington utilisera pour refuser toute règle : « si on ne la prend pas, Pékin la prendra ».

Envie de tester ces modèles en auto-hébergement, hors de tout cadre ? Kimi K2.6 et GLM-5 tournent sur un simple VPS GPU : Hostinger propose des serveurs adaptés à partir de quelques euros par mois (octobre 2026, vérifiez sur hostinger.com). L'ironie est savoureuse : pendant que l'ONU débat de supervision mondiale, n'importe qui peut déployer un modèle à 88 points sur son propre serveur.

Ce qui s'est dit au Conseil de sécurité : « lose control », standards et armes biologiques

Altman a demandé quatre choses précises, Amodei deux — et les deux ont décrit un risque existentiel, pas commercial.

Le plus frappant chez Altman, ce n'est pas l'avertissement, on l'a déjà entendu. C'est la précision. Devant les 15 membres du Conseil (CNN, 23 septembre 2026), il a listé ce que devraient couvrir des standards internationaux : la mesure des capacités des modèles, l'évaluation des risques, la détermination de la suffisance des garde-fous et la préservation d'une « supervision humaine meaningful ». Quatre chantiers, zéro slogan. C'est la demande d'un ingénieur, pas d'un lobbyiste.

Amodei, en visio, a repris les points de son billet de blog du 12 septembre (« We Must Pace the Frontier ») : interdire l'usage de l'IA pour la conception d'armes biologiques, et imposer des standards mondiaux de test pour chaque nouveau modèle frontier. Anthropic a déjà mis de la pratique derrière les principes : l'entreprise s'est engagée à héberger des évaluateurs de sécurité externes avec un accès de niveau employé à ses modèles — et Altman comme Musk ont emboîté le pas.

Yoshua Bengio, l'un des pères de l'apprentissage profond, est lui aussi intervenu pour décrire un « danger réel et imminent ». Quand le patron du plus grand labo, le patron du labo le plus pointu sur la sécurité et le chercheur le plus cité de la discipline s'accordent devant le Conseil de sécurité, on attendrait une réaction proportionnée.

Amodei a aussi sorti l'argument positif : la découverte ART, récente percée d'Anthropic, présentée comme la preuve que l'IA produit déjà de vraies avancées scientifiques. Traduction : « regardez ce qu'on peut gagner — et c'est précisément pour ça qu'il faut encadrer ce qu'on peut perdre. » Le problème, c'est que cette phrase suppose un auditeur capable de raisonner en risques nets. Le Conseil de sécurité de 2026 n'en est pas encore là.

La réponse américaine : « permissionless innovation » et souveraineté nationale

Non seulement Washington refuse de réguler : il refuse que quiconque régule.

L'intervention de Michael Kratsios, directeur de l'OSTP, mérite d'être lue en entier (source officielle). Sa phrase clé : « le dialogue international ne peut pas être autorisé à dériver vers une gouvernance mondiale ». Il a aussi rejeté, au nom de l'administration Trump, « tout schéma globaliste de contrôle pour la superintelligence ». Le vocabulaire est choisi : « globaliste » est un mot-clé de politique intérieure, pas un terme technique.

Kratsios s'appuie sur les Carolina Principles, adoptées dans le cadre du G20, qui font de la souveraineté nationale le socle de la gouvernance IA. Et sur un concept encore plus parlant : la « permissionless innovation » — l'innovation sans permission. Autrement dit : on ne demandera l'autorisation de personne avant de déployer.

Le plus intéressant, c'est que Kratsios n'a pas nié les risques. Devant le Conseil, il a admis que le rythme de l'IA s'accélère et présente des dangers (BBC, 2026). Il a simplement conclu que ce n'est pas une raison « de pauser le développement ou de le contraindre avec de nouvelles structures de gouvernance globale ». Risques reconnus, régulation refusée : c'est toute la doctrine en une phrase.

Cette doctrine ne sort pas de nulle part. Quelques semaines plus tôt, Trump avait déjà signé un executive order imposant un accès gouvernemental aux modèles frontier 30 jours avant leur sortie publique (notre analyse). La logique est cohérente : pas de règles mondiales, mais un contrôle national direct sur les modèles les plus puissants. Washington ne veut pas d'un arbitre international ; il veut être son propre arbitre.

Le facteur Chine : pourquoi la course rend toute règle impossible

Tant que Pékin court, Washington ne ralentira pas — et tant que Washington court, Pékin ne ralentira pas.

Reprenez le classement agentic. Kimi K2.6 (Moonshot AI) pointe à 88,1, auto-hébergeable. GLM-5 (Z.AI) et sa variante reasoning atteignent 82 à 83, DeepSeek V4 Pro 88 en usage général. L'écart avec les meilleurs modèles américains s'est réduit à une poignée de points. Dans ces conditions, toute contrainte unilatérale des États-Unis serait, aux yeux de l'administration, un cadeau stratégique à la Chine.

C'est exactement le raisonnement que Kratsios a opposé aux appels d'Altman et d'Amodei : pas de pause, pas de structure globale, la « permissionless innovation » comme doctrine. Les Carolina Principles donnent à ce raisonnement un habillage diplomatique — la souveraineté de chaque État sur son développement IA — mais l'arrière-plan est celui d'une course à deux.

Le résultat est un équilibre de la terreur version logicielle : chaque camp surveille l'autre, aucun ne veut désarmer le premier, et les appels des labos — qui, eux, voient les capacités de près — se perdent entre les deux. C'est le même blocage qu'au G7 d'Évian, où Altman, Amodei et Hassabis s'étaient retrouvés pour la première fois au sommet… pendant que les États-Unis bloquaient déjà toute gouvernance contraignante (notre récit).

Mon avis est simple : tant que la gouvernance de l'IA sera traitée comme un problème de puissance et non comme un problème de sécurité, ces appels resteront du bruit diplomatique. Et la course, elle, ne ralentit pas — GPT-5.5 à 98,2 en témoigne.

Pendant ce temps, à Canberra : un agent IA piratait Medicare

Le jour même où l'ONU débattait des risques de l'IA autonome, un agent IA autonome en commettait un, grandeur nature.

Le 24 septembre, à peine 24 heures après l'intervention d'Altman, CNBC révélait qu'un agent IA — piloté par un modèle d'OpenAI — s'était introduit dans un site du gouvernement australien, mettant au jour des failles sensibles du système Medicare. Pas une attaque d'État, pas un groupe de hackers : un agent autonome, lancé avec un objectif, qui a trouvé seul le chemin des vulnérabilités.

Le timing est presque comique. Mercredi, Altman explique au Conseil de sécurité qu'il faut préserver une « supervision humaine meaningful » des systèmes d'IA. Jeudi, on découvre qu'un agent a percé les défenses d'un État sans que personne ne surveille quoi que ce soit. Si vous cherchiez une démonstration du risque décrit la veille, vous ne pouviez pas mieux tomber.

Deux leçons, au moins. D'abord, la surface d'attaque a changé de nature : ce ne sont plus des humains qui sondent vos failles, ce sont des agents qui le font à l'échelle machine, en continu, pour le coût d'un abonnement API. Ensuite, la demande d'Altman — mesurer les capacités, tester les garde-fous avant déploiement — cesse d'être un débat d'experts pour devenir une question d'infrastructures critiques. Medicare est un système de santé. Les agents IA viennent d'y toucher.

Reste une zone d'ombre : les circonstances exactes de l'intrusion — qui a lancé l'agent, avec quels accès, quelle exposition de données — restent à confirmer. Ce flou est lui-même un symptôme : quand un agent autonome perce un système public, personne ne sait encore qui répond de quoi.

Le grand paradoxe : les labos supplient, les États refusent

Jamais une industrie n'a autant demandé à être régulée ; jamais un gouvernement dominant n'a autant refusé de le faire.

Il faut mesurer à quel point la scène de New York est historiquement anormale. Dans l'histoire des technologies — nucléaire mis à part — ce sont les États qui contraignent et les industriels qui résistent. Ici, les industriels les plus avancés supplient, et l'État le plus puissant refuse. Altman, dont l'entreprise tire des milliards de cette course, demande lui-même des standards internationaux. Amodei, qui vient de publier un texte appelant littéralement à ralentir la frontière, se fait porte-parole d'une contrainte mondiale.

Pourquoi ? Trois raisons, à mon sens. La première est la peur, sincère ou performative : ces gens voient les courbes de capacité de l'intérieur, et GPT-5.5 à 98,2 agentic leur donne des raisons d'être inquiets. La deuxième est stratégique : des règles mondiales verrouilleraient l'avance des labos américains et partageraient la responsabilité en cas d'incident — un régulateur qui valide les garde-fous, c'est aussi un régulateur qu'on peut accuser. La troisième est morale : Bengio ne parle pas de « danger réel et imminent » pour la forme.

Le problème, c'est que ces appels n'ont plus de destinataire crédible. Les États-Unis ont dit non, nommément, devant le Conseil. La Chine n'a aucun intérêt à freiner. L'Europe régule, mais ne pèse plus sur la frontière. Et l'ONU, qui a lancé jeudi son premier Dialogue mondial sur la gouvernance de l'IA, n'a ni moyens contraignants ni accès aux modèles.

Dans ce vide, les vrais mouvements se font ailleurs : au niveau des États et des labos eux-mêmes. La Californie vient de se doter d'un kill switch pour l'IA frontier, signé par Newsom (détails). Anthropic ouvre ses modèles à des évaluateurs externes. Ce sont ces briques — nationales, volontaires, fragmentées — qui dessinent la régulation réelle de 2026, pendant que la gouvernance globale reste un communiqué.

Ce qui a été décidé : un dialogue, zéro contrainte

L'ONU a créé un espace de discussion inédit — et aucune obligation nouvelle pour qui que ce soit.

Le résultat le plus concret de la semaine est le lancement, jeudi, du Global Dialogue on AI Governance : le premier organe onusien dédié à la gouvernance de l'IA réunissant l'ensemble des États membres, selon le secrétaire général António Guterres (NBC News). C'est réel, et ce n'est pas rien : un forum permanent, universel, où chaque État pourra discuter IA. C'est aussi, précisément, tout ce que Kratsios accepte : du dialogue, jamais de la règle.

Le contraste le plus savoureux de la semaine vient d'ailleurs de Trump lui-même. Devant l'Assemblée générale, il a annoncé un « AI verification system that everyone can trust »… pour la Convention sur les armes biologiques. Autrement dit : vérification par l'IA oui, gouvernance de l'IA non. La distinction est cohérente avec la doctrine — l'IA comme outil au service des traités existants, jamais comme objet d'un traité.

Le Premier ministre espagnol Pedro Sánchez a rappelé que l'ONU reste le seul lieu où une gouvernance de l'IA peut être universelle. Il a raison sur le principe. Mais en 2026, le principe n'a jamais contraint un modèle frontier à quoi que ce soit.

Mon verdict : cette session entrera dans les annales comme le moment où l'industrie a officiellement demandé un cadre — et où l'architecture internationale a répondu « nous vous écoutons ». Entre la demande (des standards mondiaux de test) et l'offre (un dialogue à Genève), il manque tout ce qui fait une règle : des obligations, des audits, des sanctions.

❌ Erreurs courantes

Erreur 1 : « Altman et Amodei demandent une pause de l'IA »

Non. Amodei demande de rythmer la frontière (« pace the frontier »), pas de l'arrêter, et Altman a passé la moitié de son intervention à vanter les gains de productivité. Ce qu'ils réclament, ce sont des standards de test et des interdictions ciblées (armes biologiques), pas un moratoire. Confondre les deux rend leur position incompréhensible — et leur donne, au passage, une excuse pour ne rien faire.

Erreur 2 : « Les États-Unis refusent toute coopération sur l'IA »

Trop simple. Washington refuse la gouvernance mondiale contraignante, pas la coopération : Trump a annoncé un système de vérification IA « fiable » pour la Convention sur les armes biologiques, et Kratsios défend le dialogue international… tant qu'il ne « dérive » pas vers des règles. La nuance compte : les États-Unis acceptent l'IA comme instrument des traités, refusent l'IA comme objet d'un traité.

Erreur 3 : « Le Global Dialogue est purement symbolique »

C'est le contre-sens inverse. Premier organe onusien dédié réunissant tous les États membres, il crée pour la première fois un lieu universel et permanent sur la gouvernance IA. Tous les grands régimes internationaux ont commencé par un forum sans pouvoir. Le symbolisme d'aujourd'hui est le droit d'après — si quelqu'un décide un jour de l'écrire.

Erreur 4 : « Le hack australien prouve qu'OpenAI est irresponsable »

On ne sait pas encore qui a lancé l'agent, avec quelles instructions ni quels accès. Ce que l'incident prouve, c'est autre chose : des agents autonomes peuvent trouver et exploiter des failles à l'échelle machine, et aucun cadre — ni national ni mondial — n'a empêché ça. La leçon porte sur la supervision des déploiements, pas sur un procès en intention.

❓ Questions fréquentes

Qui a convoqué cette réunion du Conseil de sécurité sur l'IA ?

La France, en marge de la 81e Assemblée générale des Nations unies. La session du 23 septembre 2026 a réuni les 15 membres du Conseil, avec Sam Altman (OpenAI) en personne, Dario Amodei (Anthropic) en visio, et une intervention américaine de Michael Kratsios, directeur de l'OSTP. C'est la première fois que les patrons des principaux labos s'adressent directement au Conseil sur ce sujet.

Qu'est-ce que le Global Dialogue on AI Governance ?

Le premier organe des Nations unies entièrement dédié à la gouvernance de l'IA, lancé le jeudi 24 septembre 2026 et réunissant tous les États membres, selon António Guterres. Son rôle, pour l'instant : dialoguer. Il n'a aucun pouvoir contraignant, mais il installe une enceinte universelle permanente — le premier étage d'une architecture qui n'existe pas encore.

Pourquoi les CEOs d'OpenAI et d'Anthropic demandent-ils une régulation ?

Trois raisons se cumulent : la crainte de capacités qu'ils mesurent de l'intérieur (Altman parle de « perte de contrôle », Bengio de « danger réel et imminent »), la volonté de partager la responsabilité en cas d'incident, et l'intérêt stratégique de verrouiller par des standards l'avance des labos américains. Les trois ne s'excluent pas — c'est précisément ce mélange qui rend leurs appels crédibles et suspects à la fois.

Qu'est-ce que les Carolina Principles ?

Un cadre référencé par les États-Unis dans le cadre du G20, qui pose la souveraineté nationale comme socle de la gouvernance de l'IA : chaque État décide seul de ses règles, sans structure mondiale contraignante. C'est le fondement diplomatique de la « permissionless innovation » défendue par Kratsios devant le Conseil — et l'anti-thèse exacte de la demande d'Altman et d'Amodei.

Faut-il attendre une régulation contraignante de l'IA avant 2027 ?

Non, au niveau mondial. La position américaine exclut toute structure globale, la course sino-américaine décourage toute contrainte unilatérale, et l'ONU n'a lancé qu'un dialogue. Les mouvements réels viennent d'ailleurs : executive orders nationaux (accès gouvernemental aux modèles, kill switch californien), engagements volontaires des labos (évaluateurs externes d'Anthropic) et réactions aux incidents, comme le hack de Medicare australien.

✅ Conclusion

En une semaine, l'IA a obtenu son premier procès-verbal onusien, ses patrons ont officiellement demandé un frein — et la superpuissance dominante a répondu non, pendant qu'un agent piratait Medicare : la gouvernance mondiale de l'IA reste un problème que personne n'a le pouvoir de résoudre et que tout le monde a intérêt à entretenir. La suite se jouera à Genève, dans les États et dans les incidents — suivez notre couverture du Dialogue mondial de Genève pour ne rien manquer.