2026-09-24

Le programme de vérification en sciences de la vie d'Anthropic est en ligne — le modèle qu'il verrouille serait meilleur en biologie que celui que la plupart des utilisateurs obtiennent réellement

AISafetyScience🌍 North America

Eric Abrams, responsable des sciences de la vie chez Anthropic, a publié un compte-rendu détaillé du fonctionnement du Life Sciences Verification Program (LSVP), deux jours après le lancement d'Opus 5.5. Il s'agit du programme que la couverture de Fable 5.1 et Mythos 5.1 par ce blog signalait il y a trois semaines comme « développé avec le gouvernement américain, avec une inscription pour les scientifiques attendue prochainement » — il est désormais en ligne, en version bêta, avec un accès accordé par équipe plutôt que par chercheur individuel.

L'ampleur du routage est plus large que ce que suggérait la note de bas de page du lancement

Le tableau de lancement d'Opus 5.5 portait une note indiquant que, lorsque les garde-fous intervenaient, « les tâches de biologie et de développement de LLM de frontière étaient complétées par Claude Opus 5 » — formulée comme un cas marginal occasionnel. Le compte-rendu d'Abrams est plus précis et considérablement plus large : « Nous avons lancé Opus 5.5 avec les mêmes garde-fous que Fable 5.1, ce qui signifie que la plupart des requêtes liées à la biologie basculent vers Opus 5. » Pas « lorsqu'ils interviennent » — la plupart des requêtes biologiques, en pratique courante, pour quiconque n'est pas inscrit au LSVP. C'est une clarification significative de l'ampleur réelle : la réserve de la note de benchmark ne décrivait pas un rare faux positif de classificateur, elle décrivait le comportement de routage par défaut pour toute une catégorie d'usage.

Le modèle verrouillé derrière la vérification serait le plus compétent des deux

Abrams affirme qu'Opus 5.5 « égale et même dépasse Mythos 5.1 sur de nombreuses tâches liées à la biologie » — sans benchmark, sans tâches précisément nommées, à traiter donc comme une affirmation non vérifiée plutôt que comme un résultat mesuré. Prise au pied de la lettre aux côtés du point de routage ci-dessus, elle produit une asymétrie réelle : Opus 5.5 serait le point de contrôle le plus compétent en biologie parmi ceux accessibles au grand public, et c'est précisément celui dont les requêtes biologiques sont redirigées ailleurs par défaut. Un utilisateur hors LSVP posant une question de fond en biologie via Opus 5.5 obtient, selon la description d'Abrams lui-même, très probablement une réponse d'Opus 5 — la génération précédente — plutôt que du modèle effectivement présenté comme compétent en biologie. Le verrou n'est pas une note de bas de page ; c'est le chemin principal.

Le mécanisme de gouvernance, en détail

Plutôt que d'assouplir les classificateurs pour tout le monde, Abrams décrit des « subventions d'usage » (use-case grants) : une équipe décrit son travail à un niveau général sans rien révéler de sensible, l'usage est comparé à cette description par un examen automatisé hors ligne, les écarts sont signalés à ce qu'il appelle « une équipe d'examen strictement cloisonnée », les données sont conservées 30 jours, et — une affirmation structurelle précise et vérifiable en principe — « mon équipe, l'organisation des sciences de la vie, ne peut jamais accéder à ces données ». C'est la même organisation dont les chercheurs ont été mis en avant par Anthropic il y a deux jours pour avoir trouvé un système enzymatique de type CRISPR, explicitement tenue à l'écart du dispositif de surveillance des usages abusifs couvrant tous les autres usagers de la biologie. À prendre comme un choix de conception structurel précis et falsifiable plutôt que comme une promesse vague, même si rien ici ne peut être audité indépendamment depuis l'extérieur d'Anthropic.

Le cadrage d'Abrams sur le pourquoi de ce calendrier, ni plus tôt ni plus tard, mérite d'être cité directement plutôt que paraphrasé : « les capacités en biologie, comme dans la plupart des autres domaines, progressent très vite, et nous ne devrions pas chercher à en calibrer le calendrier parfaitement. Dans le doute, nous choisirons toujours la prudence, et je préfère de loin mettre en place ce nouveau système trop tôt que trop tard. » Il fait aussi référence à « notre rapport sur les menaces d'il y a quelques semaines », décrivant des risques qui ne sont « plus hypothétiques » — en particulier un usage malveillant réparti sur des centaines de sessions d'apparence anodine sur des comptes différents, et des comptes d'organisations légitimes compromis ou détournés en interne, un modèle de menace plus sophistiqué que l'acteur isolé agissant en une seule session que la plupart des gens imaginent.

Ce qui manque encore

Le LSVP, tel que décrit, fonctionne par équipe et reste en version bêta — Abrams indique qu'Anthropic « travaille à l'étendre pour que des individus puissent y accéder », citant en exemple cible une personne cherchant un traitement pour le cancer ou une maladie rare d'un membre de sa famille. Ce chemin n'existe pas encore. Pour l'instant, un chercheur indépendant sans équipe institutionnelle à inscrire reçoit le même routage par défaut que tout le monde : le marketing d'Opus 5.5, les réponses réelles d'Opus 5, sur la biologie spécifiquement.