L'Institut national d'informatique du Japon (NII) a publié LLM-jp-4-33b-thinking — un modèle de raisonnement dense de 33B sous licence Apache 2.0, l'une des trois variantes de la série LLM-jp-4 aux côtés d'un modèle dense de 8B et d'un MoE 32B-A3B (128 experts routés, 8 actifs, 3,8B de paramètres actifs). Les trois partagent un contexte de 65 536 tokens et un entraînement de 11,7 billions de tokens sur le pré-entraînement et le mid-training combinés. Ce qui mérite un billet, ce n'est pas la taille — 33B est modeste selon les standards de ce mois-ci — c'est qui l'a construit, et comment.
Un institut de recherche public, pas une entreprise
NII n'est pas un laboratoire en course pour des parts de marché ; c'est l'institut national japonais de recherche en informatique, et LLM-jp se rapproche davantage d'une infrastructure publique que d'une gamme de produits. Cela se voit dans la sortie elle-même : les jeux de données de pré-entraînement, mid-training, SFT et DPO sont tous liés publiquement depuis la fiche du modèle, à l'exception des portions réellement bloquées par des licences tierces. C'est un degré de transparence rare sur toute la chaîne d'entraînement — la même exigence que j'avais portée au crédit de Soofi S en Allemagne, atteinte cette fois par la recherche publique japonaise et non par une jeune pousse. Cela s'inscrit aussi en contrepoint direct de Namazu de Sakana AI, l'autre réponse du Japon à la souveraineté en IA, qui saute explicitement le pré-entraînement pour post-entraîner les poids ouverts d'autres laboratoires. NII est la moitié « entraîner réellement de zéro » de cette même conversation nationale — la preuve que la stratégie la moins coûteuse n'est pas la seule que le Japon mène.
Le choix méthodologique à souligner : du raisonnement sans RL
La fiche du modèle l'énonce clairement, presque en passant : le post-entraînement utilise le fine-tuning supervisé et l'optimisation directe de préférences, sans apprentissage par renforcement. C'est le détail qui mérite qu'on s'y arrête. Presque toutes les sorties « thinking » ou à capacité de raisonnement ce mois-ci — Qwen3.8-Max, DeepSeek-V4-Pro, GLM-5.3 — ont construit leur comportement de raisonnement via une étape de RL, plusieurs livrant en conséquence directe un raisonnement permanent obligatoire, sans possibilité de le désactiver. LLM-jp-4-33b-thinking obtient un mode de raisonnement fonctionnel à partir du seul SFT et DPO. Que ce soit une contrainte de ressources, une préférence méthodologique, ou une vraie découverte selon laquelle le RL n'est pas nécessaire au comportement de raisonnement à ce niveau de capacité, la fiche ne le dit pas — mais c'est une expérience naturelle nette, juste à côté d'un mois de sorties fortement axées RL, et à surveiller pour quiconque essaie d'isoler ce que le RL apporte réellement aux laboratoires qui l'utilisent.
Le tableau de benchmarks, lu directement
NII évalue avec un dispositif LLM-as-judge utilisant gpt-5.4-2026-03-05 — et affirme d'emblée que le changement de juge par rapport au gpt-4o utilisé pour la génération précédente llm-jp-3 rend les scores plus stricts et non directement comparables d'une génération à l'autre, le genre de divulgation méthodologique qui mérite d'être créditée en soi. Face à ce juge, sur MT-Bench (JA/EN), AnswerCarefully (un benchmark de sécurité japonais à 336 questions) et llm-jp-instructions (400 questions à tour unique) : LLM-jp-4-33b-thinking bat gpt-oss-20b — la propre sortie en poids ouverts d'OpenAI — sur chaque métrique à effort de raisonnement comparable : MT-Bench japonais 8,00 contre 7,33, anglais 8,24 contre 7,85, AnswerCarefully 3,79 contre 3,55, llm-jp-instructions 3,79 contre 3,16. Face à gpt-5.4 lui-même, le modèle phare fermé, l'écart reste large et honnêtement affiché — 8,98 contre 8,00 sur MT-Bench japonais, 4,41 contre 3,79 sur la sécurité. Un modèle de recherche national qui bat la propre sortie ouverte d'un laboratoire américain sur des tâches en langue japonaise, tout en restant nettement derrière le modèle fermé de pointe de ce même laboratoire, est un résultat précis et lisible plutôt qu'une vague affirmation de « compétitivité ».
Ce qui reste non précisé
La fiche est explicite sur le caractère précoce du modèle : « pas ajusté pour garantir que les sorties s'alignent sur l'intention humaine et les considérations de sécurité » au-delà des benchmarks divulgués. Aucune comparaison avec d'autres modèles souverains ou du marché japonais — ni Namazu, ni les autres sorties de Sakana, ni les efforts domestiques de Rakuten ou d'ailleurs — donc la position du modèle par rapport à l'écosystème IA japonais lui-même, plutôt que face aux modèles d'OpenAI, reste une question ouverte. Et la compatibilité du modèle de conversation avec le format Harmony s'accompagne d'une vraie réserve : le tokenizer diffère de celui attendu par la bibliothèque openai-harmony, donc la tokenisation directe avec cette bibliothèque n'est pas prise en charge — un écart de compatibilité précis pour quiconque suppose une interopérabilité clé en main. Le dépôt cookbook associé rend concrète la forme pratique de cet écart : faire tourner ces modèles exige soit d'activer trust_remote_code — les modèles embarquent des plugins personnalisés de tokenizer et d'analyse Harmony pour fonctionner correctement — soit d'intégrer manuellement ce même code depuis le cookbook et le projet séparé llm-jp-tokenizer. C'est un vrai point de friction de déploiement pour quiconque évolue dans un environnement réticent à trust_remote_code, et ce n'est pas mentionné sur la fiche du modèle elle-même.
À surveiller
- La reproduction indépendante des benchmarks, en particulier la comparaison avec gpt-oss-20b — c'est l'affirmation la plus vérifiable de la fiche, et la plus pertinente pour qui choisit entre modèles japonais en poids ouverts.
- L'approche sans RL sera-t-elle révisée à la génération suivante ? Si le NII ajoute une étape de RL à LLM-jp-5 et que les scores de raisonnement bondissent, on tiendra une vraie mesure de ce que le RL apporte ; s'il s'en abstient, c'est un renseignement tout aussi utile.
- Le positionnement face à Namazu. Deux stratégies japonaises de souveraineté s'opposent — entraîner de zéro contre post-entraîner les poids d'un autre — et toutes deux sont désormais actives et documentées par de vrais chiffres : une comparaison naturelle que ce blog pourra suivre dans la durée.
Références : Hugging Face — llm-jp/llm-jp-4-33b-thinking · GitHub — llm-jp/llm-jp-4-cookbook · couverture liée : La stratégie d'IA souveraine du Japon : ne pas entraîner de modèle · Soofi S : le modèle de fondation souverain à poids ouverts de l'Europe · Le modèle de pointe à la licence la plus ouverte est coréen · GLM-5.3 · Frontier Arcade : tendances et prédictions