Hugging Face a publié Carbon-X, que son PDG et cofondateur Clem Delangue qualifie de « meilleur modèle d'ADN open source », sous licence Apache 2.0. Il a été conçu en poursuivant l'entraînement de Qwen3-14B sur 300 Md de tokens d'ADN, d'anglais et de données entrelacées, et surpasse tous les modèles de langage ouverts évalués par Hugging Face sur cinq benchmarks de compréhension et de génération d'ADN, soit un gain de 27 points par rapport à Qwen3-14B. Delangue l'a annoncé sur LinkedIn.
L'argument en faveur de l'ouverture
Selon Delangue, les laboratoires de pointe font progresser l'IA pour la biologie, mais empêchent « les gentils » (scientifiques, universités, organisations à but non lucratif, agences de santé) de l'utiliser, de l'étudier et de la comprendre, avec « des garde-fous répandus mais superficiels que les méchants contournent facilement ». À titre d'exemple, il affirme qu'un modèle de pointe l'a empêché de relire son propre tweet. Il estime que cela crée « une asymétrie et des risques massifs dans les années à venir, tout comme en cybersécurité », d'autant que les laboratoires de pointe construisent désormais leurs propres laboratoires de biologie expérimentale, et se demande s'il s'agit d'un scénario de cybersécurité transposé à la biologie. En publiant le modèle en open source, dit-il, chacun peut étudier ses capacités, ses limites et ses risques : « Rendons la frontière de l'IA pour la biologie open source pour qu'elle soit sûre et porteuse d'impact pour le monde. » L'accès restreint à la biologie est un thème que ce blog suit de près, par exemple avec le programme de vérification en sciences de la vie d'Anthropic.
Ce qu'est Carbon-X
Carbon-X est un modèle décodeur seul de 14,8 Md de paramètres, qui part de Qwen3-14B et ajoute des tokens d'ADN à son vocabulaire. Un tokenizer hybride traite l'anglais par encodage par paires d'octets et l'ADN avec un tokenizer 6-mer. Les articles consacrés à la fiche du modèle précisent que l'entraînement s'est déroulé en quatre étapes, dont un affinage supervisé et un apprentissage par renforcement avec récompenses vérifiables, que les poids tiennent sur un seul GPU de 80 Go, et que Hugging Face a collaboré avec l'Institut Telethon de génétique et de médecine, l'Université de Naples Federico II et la Zhongguancun Academy. L'objectif est de répondre en langage naturel à des questions sur des séquences d'ADN, et pas seulement de prédire des séquences.
Les chiffres
Sur les cinq benchmarks ADN, Carbon-X obtient en moyenne 66,7 %, contre 67,5 % pour GPT-6.1 Sol et environ 39,7 % pour Qwen3-14B (66,7 moins le gain de 27 points). Il se place donc à 0,8 point du modèle de pointe accessible par API, et Delangue affirme que c'est pour un coût 1 800 fois inférieur. Tous ces chiffres proviennent de Hugging Face lui-même et n'ont pas été testés de façon indépendante, et la fiche du modèle indique qu'il n'a pas fait l'objet d'une validation clinique et ne doit pas guider de décisions médicales. Pour d'autres travaux sur les modèles d'ADN, voir l'Atlas AlphaGenome de DeepMind. Hugging Face est par ailleurs au cœur de l'accord de rachat par NVIDIA pour 12,9 milliards de dollars, évoqué précédemment.