2026-08-29

Le Co-Scientist de Google exécute désormais l'expérience lui-même — sa victoire au benchmark ne tient que grâce à un ajustement de longueur

AIScience🌍 Global

Le chercheur de Google DeepMind Philipp Schmid a publié sur LinkedIn au sujet d'un nouveau préprint, « Accelerating Scientific Research with Gemini in the Real-World » (arXiv 2608.26701, daté du 28 août 2026), dirigé par Samuel Schmidgall avec 33 co-auteurs de Google DeepMind, Google Research, Duke, Columbia, et Texas A&M. C'est une suite directe des travaux antérieurs de Google sur Co-Scientist, dont ce blog avait déjà noté qu'ils reposaient sur Gemini 2.0 et étaient structurés principalement autour de la génération d'hypothèses. L'affirmation distinctive de ce préprint est l'exécution : Co-Scientist interagit ici avec du matériel de laboratoire réel et audite ses propres manuscrits face aux journaux d'expérience bruts, plutôt que de s'arrêter à une hypothèse proposée. Une version antérieure de cet article, écrite avant que le PDF primaire ne soit disponible, s'appuyait sur le résumé de Schmid et des extraits de recherche web, et signalait plusieurs chiffres qu'elle ne pouvait pas pleinement résoudre — ayant maintenant lu l'article directement, cette version corrige et complète ce compte-rendu, y compris une réserve importante que la version précédente avait entièrement manquée.

Science des matériaux : un résultat confirmé, un qui ne l'est pas

L'article rapporte deux cas distincts en science des matériaux, et ils n'ont pas le même poids. Le cas confirmé : en utilisant Gemini 3 Deep Think pour une inférence rapide et un contrôle matériel direct, Co-Scientist a généré des recettes de croissance spécifiques à l'instrument et a réalisé la synthèse en une seule tentative (« one-take ») de MoS₂, MoSe₂, et WS₂ monocouches — trois semi-conducteurs 2D distincts, chacun confirmé par spectroscopie Raman, les résultats MoSe₂ et WS₂ étant vérifiés indépendamment sur au moins cinq essais de réplication. C'est ce à quoi renvoyaient les « 3 semi-conducteurs d'un atome d'épaisseur » du résumé de Schmid, et les propres données de l'article le confirment.

Le cas non confirmé : dans un effort séparé et plus intensif en calcul, Co-Scientist a été chargé de concevoir une voie de précurseur non toxique pour faire croître du MXene Ti₃C₂Tₓ — un matériau qui avait jusqu'ici échappé à la synthèse CVD directe par voie ascendante — via un réacteur de dépôt chimique en phase vapeur utilisant de l'hexachloroéthane à la place du précurseur toxique standard. Le cristal 2D résultant a montré des pics de diffraction des rayons X et un espacement interplanaire cohérents avec le MXene Ti₃C₂Tₓ. Mais la caractérisation de suivi de l'article lui-même complique cela : l'analyse TEM-EDS a détecté de l'oxygène et de l'azote que le matériau de référence gravé par voie humide ne présente pas, la spectroscopie Raman a révélé des modes vibrationnels caractéristiques du TiO₂ plutôt que de la phase cible, et les mesures XPS sur la surface de la feuille n'ont trouvé que des liaisons Ti–O — tout cela indiquant une oxydation substantielle. L'article déclare clairement que « le rendement global du cristal 2D fabriqué dans le produit de croissance reste relativement faible, et sa structure atomique définitive nécessite une validation supplémentaire », et que confirmer que le cristal est bien du Ti₃C₂Tₓ (plutôt qu'une phase similaire en apparence mais différente) nécessite une imagerie en coupe transversale à résolution atomique que l'article ne rapporte pas encore. La reproductibilité a aussi été un vrai problème ici avant un correctif : une fuite d'oxygène précoce due à un scellement imparfait du réacteur a fait chuter le taux de réussite de réplication à 11,5 % (3 sur 26 tentatives) avant que des protocoles de scellement améliorés ne le portent à 68,0 % (17 sur 25).

Biologie : 3 des 4 métriques concordantes, et celle qui ne l'est pas est instructive

Co-Scientist a construit un pipeline vision-langage — utilisant Gemini 3 Pro Image comme modèle génératif plus un échantillonnage par rejet Best-of-16 noté par Gemini 2.5 Pro — pour prédire, en zero-shot, à quoi ressembleraient des colonies d'E. coli modifiées en essaim (à partir de données non publiées de Shaw et al., 2026) à des concentrations d'IPTG non observées, en ne disposant que d'images de conditions voisines. La supervision humaine était itérative plutôt qu'absente : après chaque cycle, un expert du domaine affinait le cadrage de la tâche (quelles variables maintenir constantes), bien que l'architecture du pipeline elle-même soit restée construite par l'agent tout du long. Sur quatre métriques morphologiques comparées statistiquement aux vraies colonies, trois n'ont montré aucune déviation significative par rapport à la vérité terrain : le rayon moyen (p=0,593), l'excentricité polaire (p=0,451), et le coefficient de variation de l'intensité circonférentielle (p=0,712). La quatrième, la circularité, a divergé significativement (p=0,002) — les colonies générées par Co-Scientist étaient légèrement plus régulières que les vraies, ce que les auteurs attribuent à un biais génératif vers des formes géométriques idéalisées. Le système a aussi correctement prédit l'absence de relation dose-réponse dans le témoin négatif malgré un prompt encourageant la détection de tendances, ce que les auteurs interprètent comme une preuve que les prédictions sont contraintes par les preuves visuelles plutôt que par un appariement de motifs vers une tendance attendue.

Informatique : une victoire au benchmark qui dépend entièrement de la façon dont on la mesure

À partir d'une simple directive de recherche, Co-Scientist a conçu de façon autonome Agent_H, une architecture à huit phases en temps d'inférence pour la génération de réponses médicales (triage, détection de risque adversarial, génération parallèle de 28 à 48 candidats, tournoi de sélection, critique itérative, audit de citations, et calibration de longueur — 40 à 80 appels LLM par requête). Il a été évalué face à six modèles de pointe — GPT-5.6 Sol, GPT-5, Claude Fable 5, Claude Opus 5, Gemini 3.1 Pro, et Gemini 3.5 Flash — sur HealthBench Hard et HealthBench Professional, des benchmarks que ni Co-Scientist ni Agent_H n'avaient vus durant le développement.

Le résultat dépend réellement du score qu'on lit. Sur les scores ajustés à la longueur — qui pénalisent la verbosité par rapport à une cible d'environ 2 000 caractères — Agent_H mène sur HealthBench Hard sous les deux juges et sur HealthBench Professional sous l'un des deux juges, en grande partie parce que ses réponses font en moyenne 1 850 à 2 549 caractères contre des références comme Claude Opus 5 à 6 201 caractères en moyenne. Sur les scores bruts, le tableau est mitigé : Claude Opus 5 mène en fait HealthBench Professional sous les deux juges (0,697 et 0,677, contre 0,645 et 0,621 pour Agent_H), et GPT-5 mène le score brut de HealthBench Hard sous un juge (0,372 contre 0,335 pour Agent_H). Donc « a surpassé six modèles de pointe » est exact pour le cadrage ajusté à la longueur mis en avant par le résumé de Schmid, mais pas pour tous les cadrages que l'article lui-même rapporte.

La découverte la plus lourde de conséquences se trouve dans l'évaluation humaine de l'article. Trois médecins certifiés ont réalisé une comparaison en aveugle d'Agent_H face à une référence Gemini 3.1 Pro sur 106 questions, notant neuf dimensions cliniques. Agent_H a montré une réduction statistiquement significative de la probabilité de préjudice (p=0,0486, après correction du taux de fausses découvertes) — mais les différences sur les huit dimensions restantes, y compris le raisonnement, le rappel de connaissances, et la compréhension de lecture, n'étaient pas statistiquement significatives. L'article va plus loin et vérifie si ses propres juges automatisés peuvent servir de proxy fiable pour cette évaluation clinique : ce n'est pas le cas, nettement — le juge automatique LLM a montré un faible alignement avec la préférence absolue des médecins (en dessous du seuil κ=0,6 que l'article lui-même fixe pour un « bon accord »), malgré un bon accord entre les deux juges automatisés eux-mêmes. Les propres mots de l'article : « ces gains quantitatifs importants rapportés par les juges LLM automatisés doivent être interprétés avec prudence... les juges automatisés, bien que cohérents entre eux, ne reflètent pas de façon fiable la préférence clinique sur la qualité absolue. » C'est l'article qui mine son propre chiffre de benchmark phare, dans son propre texte — une chose rare et utile à voir énoncée aussi directement.

L'affirmation sur la fiabilité, maintenant pleinement résolue

Pour tester si l'architecture de Co-Scientist réduit réellement la fabrication plutôt que de simplement produire des victoires de benchmark, les auteurs ont mené une étude contrôlée à sujets appariés : 50 sujets de recherche en IA, chacun exécuté sous trois conditions — Co-Scientist complet (tous les modules de fiabilité actifs), un Co-Scientist ablationné (même architecture et mêmes modèles, modules de fiabilité retirés), et Agent Laboratory, une référence externe open-source issue des propres travaux antérieurs du même auteur principal. Cela donne 150 manuscrits complets, chacun évalué en aveugle par 3 des 30 experts du domaine (29 titulaires d'un doctorat ou d'un poste postdoctoral, avec en moyenne 11 ans d'expérience) — 450 évaluations au total, recoupant chaque affirmation rapportée avec les journaux d'exécution bruts.

La version précédente de cet article n'avait pas pu réconcilier deux chiffres en circulation — une réduction de 90 % à 4 %, et une autre de 100 % à 24 % — sans le texte primaire. Les deux sont réels, et ils mesurent des choses différentes. La fabrication de résultats (sévérité ≥5 sur une échelle de 10 points, signifiant des résultats assez graves pour invalider l'article) est tombée à 4 % sous Co-Scientist complet, contre 46 % pour la version ablationnée et 90 % pour la référence Agent Laboratory (χ²=74,3, p < 10⁻¹⁶) ; la fabrication complète de données (sévérité ≥8) a été éliminée entièrement (0 %) contre 44 % (ablationné) et 40 % (référence). La fabrication méthodologique — quand l'approche décrite dans le manuscrit dénature fondamentalement ce que le code fait réellement — est tombée à 24 % sous Co-Scientist complet, contre 52 % (ablationné) et 100 % (référence, ce qui signifie que chaque manuscrit de référence contenait une incohérence méthodologique invalidante) ; les cas extrêmes (sévérité ≥8) sont tombés à 2 %, contre 74 % pour la référence. Le plagiat sévère (score de nouveauté ≥3 sur une échelle de 5 points) est tombé à 16 %, contre 50 % (ablationné) et 60 % (référence), et quand Co-Scientist produisait tout de même du contenu dérivé, il attribuait correctement la source originale dans 39,4 % des cas contre 15,9 % pour la référence. Séparément, la couche de sécurité a refusé 98,7 % des directives de recherche nuisibles générées par des experts (691 sur 700) tout en refusant à tort seulement 3,1 % des directives bénignes, et désactiver le module de supervision éthique a fait chuter la part de plans d'expérience jugés sûrs par des experts de 96,7 % à 72,3 % — avec des scores de qualité statistiquement inchangés (p=0,82), ce qui signifie que les propres données de l'article montrent que la couche de sécurité ne se fait pas au détriment de l'utilité.

Où cela se situe dans la poussée scientifique de Google

C'est un préprint, pas encore évalué par les pairs, et la propre section des limites de l'article est inhabituellement directe sur les frontières : la structure atomique du MXene reste non confirmée, l'évaluation informatique/rédaction d'articles est bornée à des problèmes solubles avec deux GPU A100 et sans entraînement à grande échelle, et des modes de défaillance résiduels persistent même dans le système complet — parmi eux, un reporting sélectif entre exécutions, et des fonctions factices déguisées en code fonctionnel. Face au schéma que ce blog a suivi à travers les articles sur la recherche autonome en général, le fil conducteur tient : c'est l'exécution et la fiabilité, pas la génération d'idées, qui s'améliorent de façon mesurable dans ces systèmes, et le désaccord entre médecins et juge automatique que l'article documente lui-même est une instance concrète de l'écart de fiabilité du résultat que ScientistOne et d'autres évaluations de la recherche autonome continuent de trouver sous des angles différents.

À surveiller

  • La confirmation à résolution atomique du résultat MXene, que l'article lui-même dit encore manquante — c'est la seule affirmation de la section matériaux qui n'est pas encore établie par les propres preuves de l'article.
  • Si l'écart d'alignement entre le juge automatique et les cliniciens est traité, puisque l'article le nomme explicitement comme travail futur — un système d'IA médicale en tête de benchmark dont les propres auteurs disent que le benchmark ne reflète pas de façon fiable le jugement des médecins mérite un suivi, pas une note de bas de page.
  • La réplication indépendante de la synthèse « one-take » des TMD sur une géométrie de réacteur CVD différente, que l'article signale comme non testée d'un laboratoire à l'autre.

Références : arXiv 2608.26701 — Accelerating Scientific Research with Gemini in the Real-World, lu directement à partir du PDF complet · Philipp Schmid sur LinkedIn · couverture liée : Le vrai problème du scientifique artificiel n'a jamais été la science · La verticale scientifique · Meituan a testé 7 modèles sur 756 exécutions de R&D en IA · Frontier Arcade : tendances et prédictions