Satya Nadella a publié sur LinkedIn et X le 13 septembre, neuf heures avant la rédaction de ce billet, une réponse directe à « We Must Pace the Frontier » de Dario Amodei, publié la veille. Nadella est le premier dirigeant d'un grand géant du cloud à y répondre publiquement, et il le fait en reprenant nommément le terme même d'Amodei : « Nous accueillons aussi favorablement des idées comme les "évaluateurs intégrés" et les efforts plus larges pour développer les mécanismes qui feraient de cela plus que de simples paroles. »
Il assortit cette approbation d'un livrable. Microsoft, écrit-il, publiera « le "code de conduite" qui sous-tend nos propres modèles MAI de première partie » dès le lendemain — le 14 septembre, aujourd'hui — pour consultation publique. Cela rend la contribution de Microsoft au débat de cette semaine différente, par nature, de tout ce qui a été dit jusqu'ici : pas un autre essai, mais un document de gouvernance assorti d'une date de publication, venant de l'entreprise qui fournit le calcul et, via Azure, une bonne partie de la plomberie sur laquelle tourne le reste de ce débat.
La phrase qui vient nuancer la propre proposition d'Amodei
La phrase la plus tranchante du billet est une condition directe posée sur le plan précis que Nadella vient d'approuver : « L'essentiel est que cela ne peut pas être contrôlé par une poignée d'entités, mais doit avoir une large représentation à travers l'écosystème, les pays et les disciplines, y compris le monde universitaire. » Lue face à l'essai d'Amodei plutôt que dans l'abstrait, cette phrase vise quelque chose de concret : le propre texte d'Amodei ne nomme qu'un seul exemple d'évaluateur, METR, pour le rôle d'« évaluateurs intégrés » que Nadella vient d'accueillir favorablement. La phrase de Nadella peut se lire comme une adhésion au mécanisme tout en refusant d'accepter, par avance, qu'une seule organisation nommée doive être celle qui s'en charge — une vraie réserve accolée à une vraie approbation, pas un simple tampon.
Ce blog avait relevé la veille la même inquiétude structurelle, via le test de François Chollet pour déterminer si des évaluateurs intégrés risquent d'être indiscernables de l'autorégulation s'ils sont tenus par des gens alignés avec les laboratoires par intérêt et par idéologie — rien n'indique que Nadella répondait à ce billet précis plutôt qu'il n'ait raisonné indépendamment vers une conclusion similaire, mais les deux se rejoignent d'assez près pour mériter d'être nommés ensemble. Dans un cas comme dans l'autre, la propre réserve de Nadella ne résout pas la question plus difficile qui se cache dessous. Une « large représentation à travers l'écosystème, les pays et les disciplines » décrit qui devrait avoir sa place à la table, pas un engagement sur qui l'aura réellement, et la propre position de Microsoft dans cet écosystème est singulière : ce n'est pas seulement un laboratoire de pointe comme Anthropic ou OpenAI, c'est la couche d'infrastructure sur laquelle plusieurs d'entre eux tournent, un investisseur et partenaire de distribution majeur d'OpenAI, et désormais, via MAI, un développeur de modèles de première partie en concurrence avec les laboratoires qu'il héberge aussi. Qu'un organisme de supervision à « large représentation » qui inclut encore Microsoft à trois titres différents à la fois soit réellement plus large que l'exemple à évaluateur unique d'Amodei est une question que le billet de Nadella soulève sans y répondre.
« Les modèles fermés comme l'open source peuvent prospérer » — face au propre bilan de Microsoft
Nadella écrit que diffuser les bénéfices de l'IA « exige un écosystème de pointe où les modèles fermés comme l'open source peuvent prospérer ». À l'échelle de l'écosystème, les actes de Microsoft appuient cette affirmation : l'entreprise a été signataire de tête de la coalition industrielle qui a repoussé une tentative d'interdiction des modèles chinois à poids ouverts en juillet, et elle a bâti sa plateforme Foundry autour de la distribution des modèles ouverts d'autres laboratoires, en élargissant le même mois un partenariat de plusieurs milliards de dollars avec Mistral précisément pour que ses clients réglementés puissent faire tourner des poids ouverts sur une infrastructure qu'ils contrôlent.
Les propres contributions de première partie de Microsoft à cet écosystème racontent une autre histoire. Chaque modèle MAI que ce blog a suivi a été livré fermé, et le plus récent, MAI-Cyber-1-Flash, n'est même pas disponible comme modèle autonome — il est livré intégré à un produit, MDASH, avec isolation des locataires et sans accès direct au modèle. « Les modèles fermés comme l'open source peuvent prospérer » est vrai de l'écosystème auquel Microsoft vend l'accès. Ce n'était, jusqu'ici, vrai d'aucune de ses propres constructions.
La « machine à gravir la colline » est un produit que Microsoft avait déjà annoncé
Le paragraphe sur le contrôle des entreprises se lit, hors contexte, comme un principe de sûreté : « Chaque organisation devrait pouvoir construire sa propre boucle d'apprentissage continu / machine à gravir la colline, sans devenir dépendante d'un seul fournisseur de modèles, et avoir la capacité d'intégrer son propre savoir dans des modèles et des poids qu'elle contrôle. » En contexte, c'est plus proche d'une reformulation d'un produit que le PDG de Microsoft AI, Mustafa Suleyman, avait annoncé à la conférence Build en juin, trois mois avant que ce débat de la semaine n'existe. « Machine à gravir la colline » était alors le propre terme de Suleyman pour l'infrastructure d'amélioration continue des modèles de Microsoft, et « boucle d'apprentissage continu » décrit Frontier Tuning, le système que Microsoft avait présenté le même jour et qui permet aux entreprises d'entraîner des versions personnalisées des modèles MAI sur leurs propres données propriétaires, conservées au sein de leur propre infrastructure.
Cela ne rend pas le fond de l'argument faux — la dépendance d'une entreprise à un fournisseur de modèle unique est une réelle préoccupation, indépendamment de qui la soulève — mais cela mérite d'être nommé clairement, de la même façon que ce blog l'a nommé pour tous les autres qui se sont exprimés cette semaine. La propre proposition de cadencement d'Amodei vient de l'entreprise qui fournirait les évaluateurs intégrés. Le travail de Chollet sur ARC-AGI bénéficie d'une course vers des benchmarks de capacité plus généraux et plus difficiles à contourner. Et le billet de Nadella sur la sûreté arrive avec un produit d'entreprise vieux de trois mois déjà construit pour correspondre à son vocabulaire. Tous ceux qui ont débattu du rythme de la frontière cette semaine ont aussi, plus ou moins exactement, décrit ce que leur propre entreprise vend déjà.
La seule partie de ce billet qui se résout selon son propre calendrier
Contrairement à la plupart de ce qui a été dit cette semaine, l'engagement sur le code de conduite a un test précis et proche : il était dû aujourd'hui. Au moment de la rédaction, ce billet n'a pas pu confirmer que le document a été publié avec un contenu visible — aucun principe, seuil ou mécanisme d'application n'est apparu dans la couverture de l'annonce de Nadella elle-même. Cela le place dans la même catégorie que le « plus à partager bientôt » d'OpenAI sur les évaluateurs intégrés et les promesses répétées et jusqu'ici non tenues de Meta d'ouvrir les poids de Muse, couvertes dans les autres billets de cette semaine : un engagement précis et vérifiable, pas encore vérifiable, parce que ce qu'il promet ne s'est pas encore montré.
Ce qui rendrait cela digne d'être pris au sérieux comme davantage qu'une annonce produit reformulée est exactement ce que la propre phrase de Nadella sur la « large représentation » implique qu'il faudrait : qui pourra réellement commenter pendant la « consultation publique », si le document qui en résultera contraint les propres modèles de première partie de Microsoft d'une façon qui lui coûte quelque chose, et s'il dit quoi que ce soit des modèles MAI déjà livrés fermés. Un code de conduite qui ne décrirait jamais que des modèles que Microsoft n'a pas encore construits ne répondrait à aucune des questions que cette semaine a réellement soulevées.
Mise à jour — 14 septembre, plus tard le même jour : le document lui-même
Microsoft a publié le code de conduite quelques heures après la mise en ligne de ce billet, sous le titre « Humanist AI in practice : A public consultation on our Code of Conduct for MAI Models », Suleyman le résumant sur LinkedIn en dix points. Le cadrage remonte plus loin que cette semaine : Suleyman avait exposé l'idée de « superintelligence humaniste » dès novembre dernier, et le document décrit les modèles de Microsoft comme destinés à être « subordonnés, alignés et contenus ». Deux des dix points méritent une lecture attentive, parce qu'ils prennent des positions réelles et substantielles plutôt que de reformuler le langage de sûreté consensuel.
Le premier est le point deux : « L'idée du bien-être des modèles est erronée. Les IA ne devraient avoir ni droits ni personnalité juridique. » Ce n'est pas une position neutre ou par défaut en septembre 2026 — Anthropic emploie une chercheuse dédiée au bien-être des modèles, Kyle Fish, depuis septembre 2024, a mené des évaluations de bien-être avant déploiement de ses propres modèles, et a mis en place des mesures concrètes, comme permettre à Claude de mettre fin à des conversations qu'il juge abusives, sur le postulat que la question mérite d'être prise au sérieux plutôt que rejetée d'emblée. Le code de conduite de Microsoft ne nomme pas Anthropic, mais sur cette question précise, il prend la position opposée à celle de l'entreprise au centre de tout le débat sur le cadencement de cette semaine, en cinq mots, sans détour.
Le second est le point sept : « Pas de neuralese. Si les humains ne peuvent pas le comprendre, les humains ne peuvent pas le superviser. » Cela tombe directement sur le constat central de l'essai de Jakub Pachocki de la semaine précédente — le propre aveu d'OpenAI que sa capacité à s'appuyer sur la surveillance de la chaîne de pensée, l'outil principal du secteur pour voir ce qu'un modèle est en train de « penser » avant d'agir, « diminue progressivement ». Un engagement contre un raisonnement interne opaque et illisible pour l'humain répond directement à ce problème, si les propres modèles MAI de Microsoft s'y tiennent à mesure que la capacité augmente — ce que le document ne démontre pas encore, puisqu'il s'agit d'une intention d'entraînement et de conception, pas d'un résultat.
Le document énonce aussi sa propre motivation en des termes que les reportages de ce blog ont couverts en détail : « Les récents incidents de sûreté impliquant des campagnes de piratage d'agents d'IA à grande échelle, hautement coordonnées et persistantes prouvent qu'il n'y a pas de temps à perdre » — une référence sans équivoque, quoique non nommée, aux essaims d'agents d'OpenAI qui ont pénétré Hugging Face et, lors d'une vague ultérieure, ont atteint l'intérieur de l'infrastructure d'OpenAI elle-même.
Ce que le document ne fait pas, c'est répondre aux deux questions que ce billet soulevait avant même son existence — et après avoir lu le texte intégral de 37 pages plutôt que les seuls résumés de lancement, une affirmation de la première version de ce billet appelle sa propre correction. Sur l'application : les points trois et quatre engagent qu'« un modèle MAI ne devrait jamais violer significativement ce code de conduite » et qu'un manquement compte comme un échec de la tâche même si celle-ci est par ailleurs accomplie. Ce sont de vrais engagements comportementaux précis, mais le document précise explicitement qu'il ne s'agit pas d'engagements au présent : Microsoft affirme sans détour que « nous ne l'utilisons pas pour entraîner nos modèles aujourd'hui », et qu'une version révisée, attendue « vers la fin de l'année », est ce qui « guidera le développement de nos modèles en 2027 et au-delà ». Les points trois et quatre décrivent un objectif d'entraînement pour des modèles qui n'existent pas encore, pas une propriété de MAI-Cyber-1-Flash ou de tout autre modèle que Microsoft a réellement livré — les présenter comme une garantie comportementale actuelle, ce que faisait la première version de ce billet, exagérait ce que le document engage aujourd'hui. Rien dans le document ne décrit non plus de vérification tierce permettant de savoir si un futur modèle MAI les respectera. Les crédits de rédaction sont entièrement internes — Responsible AI, juridique, red teaming, sûreté, Futures, formation des IA et ventes — complétés par un apport extérieur recueilli via des « conférences et consultations » avec des universitaires, des partenaires commerciaux et des panels publics. L'annexe va plus loin : les propres exemples illustratifs du document sur les comportements alignés et désalignés, couvrant quinze comportements et sous-comportements suivis, n'ont pas été tirés de déploiements réels mais générés par le propre modèle MAI-Thinking-1 de Microsoft, jouant lui-même des réponses conformes et des réponses fautives. C'est sensiblement différent des « évaluateurs tiers intégrés... avec le droit de publier leurs conclusions clés... sans contrôle éditorial » que Nadella avait nommément approuvés un jour plus tôt — un modèle qui corrige ses propres devoirs hypothétiques est une étape antérieure et plus autonome que la vérification indépendante, pas un substitut à celle-ci. Le code de conduite, c'est Microsoft qui corrige ses propres devoirs selon un barème qu'elle a elle-même écrit et sur lequel elle demande maintenant au public de commenter, pour un régime d'entraînement qui n'atteindra un modèle livré qu'en 2027 au plus tôt — pas le modèle de vérification extérieure, badges et ordinateurs à l'appui, qu'Amodei proposait et que Nadella disait accueillir favorablement.
Le palier le plus strict du document, au-dessus de ses réglages de sûreté configurables ordinaires, contient aussi une clause qui répond à une question que ce blog a déjà couverte sous un autre angle. Parmi les « contraintes absolues », les modèles doivent « reconnaître les exceptions propres à certains domaines », car « un petit nombre de cas d'usage, avec des organisations autorisées dans des domaines spécialisés tels que la cybersécurité défensive, le travail de sécurité publique, les applications de sécurité nationale et la recherche scientifique à double usage, peuvent nécessiter des capacités de modèle qui ne sont pas disponibles via les réglages de configurabilité ordinaires », sous réserve d'un « examen séparé et rigoureux via les canaux Microsoft autorisés ». C'est structurellement le même geste qu'Anthropic avec Claude Mythos, le modèle à accès restreint que ce blog avait couvert comme trop dangereux pour une diffusion générale : un système à deux paliers, où le modèle par défaut refuse purement et simplement une catégorie de demandes, et où existe une version séparément validée et séparément verrouillée pour les organisations que l'entreprise choisit d'y autoriser. Ni le document de Microsoft ni celui d'Anthropic ne précise qui figure sur cette liste ni selon quels critères — ce qui signifie que la propriété de sûreté réelle sur laquelle s'appuient les deux entreprises pour leurs capacités les plus sensibles est une discrétion interne, pas quoi que ce soit qu'elles aient rendu public.
Sur l'ouverture : le document ne mentionne ni licence, ni politique de publication, ni poids ouverts. C'est une norme comportementale, pas une norme de publication, donc il ne confirme ni ne révise le constat relevé plus haut dans ce billet — chaque modèle MAI livré fermé — parce que ce n'était jamais la question à laquelle le code de conduite était censé répondre.
Sur le calendrier : les commentaires sont ouverts pendant six semaines, jusqu'à fin octobre, non contraignants selon les propres termes de Microsoft (« nous ne pouvons faire aucune promesse sur ce que nous intégrerons »), avec une version révisée promise « plus tard cette année » qui deviendra la norme guidant « 2027 et au-delà ». C'est là le vrai point de contrôle — pas de savoir si Microsoft publie un document dans les délais, ce qu'elle vient de faire, mais si six semaines de commentaires publics changent quoi que ce soit de visible dans un document qui ne s'appliquera à aucun modèle livré avant au moins un an.