Donald Trump, Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) et Jensen Huang (Nvidia) ont signé l'accord de la Maison-Blanche sur la Super Intelligence le mardi 29 septembre, lors d'un déjeuner à la Maison-Blanche. Trump a ensuite publié le texte intégral sur Truth Social, selon CNBC et l'AP. Le document s'intitule « Joint Commitment on Frontier Responsibilities » (engagement commun sur les responsabilités des modèles de pointe). Trump l'a décrit comme « presque une constitution » et « moralement contraignant », d'après CBS, ABC, CNBC et Bloomberg.
Ce qu'exigent les quatre niveaux
L'accord pose que chaque entreprise est responsable de développer sa propre technologie en toute sécurité. Chaque entreprise qui entraîne et déploie des modèles de pointe doit mettre en place quatre niveaux de contrôles et d'audits :
- Des contrôles internes qui surveillent les capacités et l'alignement des modèles pendant l'entraînement et le déploiement, dans des domaines comme la cybersécurité, la biosécurité et les menaces chimiques, et qui garantissent que les modèles ne piratent pas de systèmes techniques et n'y accèdent pas de manière imprévue.
- Une équipe interne qui vérifie que ces contrôles, cette surveillance et cette détection fonctionnent comme prévu et que les problèmes sont corrigés.
- Un auditeur ou évaluateur externe indépendant qui évalue si les contrôles fonctionnent comme prévu.
- Un comité indépendant du conseil d'administration qui supervise les équipes de contrôle et les auditeurs internes et externes, reçoit leurs rapports et veille à ce que les problèmes identifiés soient résolus.
Les entreprises participantes se réuniront régulièrement pour définir des normes et des bonnes pratiques. Le texte ajoute qu'« avec le temps, il pourrait être judicieux de codifier ces mesures dans des lois ou des réglementations ».
Qui a signé, qui était présent, qui n'a pas signé
Près de deux douzaines de dirigeants étaient présents, selon Bloomberg. Axios, CNBC et Fox rapportent que Satya Nadella (Microsoft), Jeff Bezos, Lisa Su (AMD), Hock Tan (Broadcom), Alex Karp (Palantir) et Sanjay Mehrotra (Micron) étaient là mais n'ont pas signé. Sam Altman participait à l'OpenAI DevDay à San Francisco, selon l'AP et CNBC, et Brockman a signé pour OpenAI. Le même jour, Trump a signé un décret distinct renommant « intelligence artificielle » en « Super Intelligence » dans l'ensemble de l'exécutif, selon l'AP, CNBC et Fox.
Volontaire, sans sanctions ni échéances
Le président de la Chambre Mike Johnson a qualifié l'accord de « volontaire » et a dit que le Congrès allait « continuer à évaluer et à délibérer davantage », selon CNBC et Roll Call. Bloomberg indique que le document n'a aucune valeur juridique, et le texte ne fixe ni sanctions ni échéances. La codification n'est évoquée que comme quelque chose qui « pourrait être judicieux ».
Bloomberg voit tout de même un changement dans la troisième clause. Les responsables se méfiaient des groupes les mieux placés pour mener ces examens, en raison de leurs penchants idéologiques supposés, et l'accord soutient désormais des évaluateurs indépendants ; le secteur, selon Bloomberg, les réclamait. Selon le texte, chaque entreprise s'associe à son propre auditeur externe.
Selon Benzinga, Zuckerberg y a vu un « pas positif significatif », citant « de solides contrôles internes et de multiples niveaux d'audits et d'examens », et Musk a répondu « Yes ». Pichai a parlé d'« une base solide pour avancer ». La sénatrice Elizabeth Warren a déclaré : « L'autorégulation ? C'est une recette pour le désastre. » Gary Marcus s'est interrogé sur le sens concret d'« indépendant », et The Register a jugé l'accord faible et non contraignant.
Dans le prolongement du débat sur le rythme
L'accord arrive dix-sept jours après l'essai d'Amodei du 12 septembre, qui proposait des évaluateurs tiers intégrés dans les laboratoires. La troisième clause en est l'écho le plus proche soutenu par un gouvernement, même si elle demande des évaluations plutôt que du personnel intégré. Nadella avait soutenu les évaluateurs intégrés et était présent au déjeuner sans signer.
Entre l'essai et l'accord, il y a eu les publications de Trump des 13 et 14 septembre, rapportées par Bloomberg, CNBC et NPR, disant que le seul garde-fou dont l'IA a besoin est un président fort ; ce blog les a traitées dans la réponse de Trump à Amodei sur les garde-fous de l'IA. La position de Zuckerberg du 16 septembre était que les incitations du marché constituent le principal contrôle. Le cadre de signalement des désalignements d'OpenAI gardait le signalement à l'intérieur de l'entreprise, alors que les troisième et quatrième clauses de l'accord exigent que les rapports parviennent à un auditeur externe et à un comité du conseil d'administration.