Des chercheurs de McGill et Mila, de la LMU de Munich et du laboratoire AI for Good de Microsoft ont publié AfriqueLLM à ACL 2026 (l'article dans les actes, les modèles sur Hugging Face) : une suite de modèles ouverts adaptés à 20 langues africaines par pré-entraînement continu (CPT) sur 26 milliards de jetons, à partir de cinq modèles de base couvrant Llama 3.1 8B, Gemma 3 (4B et 12B) et Qwen 3 (4B, 8B et 14B). L'intérêt d'appliquer la même recette à autant de modèles sous-jacents, c'est que cela transforme une sortie de modèles en véritable expérience : on voit enfin laquelle des deux choses que l'on suppose déterminantes — la taille, ou la couverture multilingue préalable — prédit réellement la qualité de l'adaptation.
Aucune des deux, en fait. C'est là que ça devient intéressant.
Le modèle de base qui soutenait le moins les langues africaines a produit le meilleur modèle africain
Qwen 3 n'offre qu'un soutien officiel minimal aux langues africaines et part des références les plus faibles de l'article : Qwen 3 8B obtient une moyenne de 33,47 sur les sept tâches d'AfroBench-Lite, sous Llama 3.1 8B (35,33) et même sous Gemma 3 4B (40,31), bien plus petit. Gemma 3, à l'inverse, est bâti autour d'un pré-entraînement multilingue large et part loin devant — Gemma 3 12B à 54,80.
Après un pré-entraînement continu identique, cet ordre s'inverse. AfriqueQwen-8B atteint 59,08, devançant AfriqueGemma-12B à 58,82 avec deux tiers des paramètres, et AfriqueQwen-14B atteint 63,58 — le meilleur modèle de l'article. Les auteurs nomment cela l'effet « Zero-to-Hero » et rapportent des gains relatifs de 74,4 %, 76,5 % et 57,8 % pour les trois tailles de Qwen, contre 18,8 % et 7,3 % pour les deux Gemma.
Ces pourcentages méritent d'être dégonflés un peu : un gain relatif calculé sur une référence proche du plancher est flatteur par construction, et le score de traduction Flores de Qwen 3 8B, à 21,13, n'en est pas loin. Mais ce dégonflage ne sauve pas l'intuition, car les scores absolus après CPT disent la même chose d'une manière que les pourcentages ne peuvent pas gonfler. Les modèles issus de Qwen finissent devant. Le cadrage des auteurs — un bon modèle de base compte davantage qu'un modèle multilingue, parce que la capacité se transfère plus facilement vers de nouvelles langues que la couverture ne confère de capacité — résiste au calcul. C'est un résultat réellement utile pour qui doit choisir un point de départ, et c'est l'inverse de ce que l'heuristique évidente recommanderait.
La section 5.5 l'affine avec une expérience naturelle remarquablement propre : Qwen 3 4B et Qwen 3.5 4B partagent la même architecture mais diffèrent par leur périmètre multilingue. Le modèle de base le plus multilingue part beaucoup plus haut (46,01 contre 31,49) et finit plus haut (57,12 contre 54,94) — mais avec un gain relatif plus faible, une meilleure traduction et des mathématiques moins bonnes. Les a priori multilingues achètent les tâches de connaissance linguistique, pas le raisonnement. Ajouter davantage de code et de mathématiques récupère les mathématiques.
La comparaison avec Gemma 3 27B gagne deux tâches et en perd quatre
L'affirmation la plus citable de l'article est qu'AfriqueQwen-14B (63,58) dépasse Gemma 3 27B (60,71) avec moins de la moitié de la taille. La moyenne est juste, et l'article nomme ce qui la porte. Il vaut quand même la peine de lire la ligne entière, parce que sa forme compte.
AfriqueQwen-14B gagne 15,36 points en traduction (Flores, 63,77 contre 48,41) et 9,64 en mathématiques (AfriMGSM, 45,01 contre 35,37), plus 2,16 en inférence en langue naturelle. Il perd sur les connaissances AfriMMLU (52,22 contre 55,47), la classification d'intentions (77,80 contre 79,70), la classification thématique (82,63 contre 84,34), et fait match nul en compréhension de lecture avec un léger retard (74,63 contre 74,81). Trois victoires, quatre défaites, et une moyenne de +2,87 portée par les deux tâches où 26 milliards de jetons de texte africain ciblé et un milliard de jetons de mathématiques devaient manifestement aider.
Ce n'est pas une réfutation — battre un modèle deux fois plus gros en traduction et en mathématiques dans ces langues, c'est précisément le produit ici, et qui adapte un modèle pour traduire le swahili se soucie peu que le 27B non adapté soit deux points meilleur en classification thématique. Mais « dépasse Gemma 3 27B » se lit comme une affirmation générale et n'en est pas une.
La comparaison que l'article traite le plus scrupuleusement l'oppose à Lugha-Llama-8B-wura, le modèle CPT antérieur bâti sur la même base Llama 3.1 8B avec des données monolingues WURA uniquement. AfriqueLlama-8B gagne 4 tâches sur 7, largement en mathématiques (17,51 contre 9,46) et en traduction (63,60 contre 49,90) — et perd de 6,7 points en classification thématique. L'article énonce ce partage 4 sur 7 clairement, au lieu de mettre la moyenne en avant.
Les preuves derrière la recette sont plus minces que l'assurance avec laquelle elle est retenue
Le mélange adopté, CMS — texte monolingue plus environ 1 milliard de jetons de Python issus de CornStack, 1 milliard de jetons de FineMath-4+ et 324 millions de jetons de contenu traduit par GPT-4.1 sur 11 domaines — est choisi dans une ablation sur Gemma 3, puis appliqué sans changement à cinq autres modèles de base. Regardons sur quoi repose ce choix.
À 12B, CMS bat CMSP (le même mélange plus des données parallèles NLLB filtrées) de 0,40 sur Flores, 1,26 sur AfriMGSM, 0,14 sur AfriMMLU et 1,31 sur AfriXNLI. Exécutions uniques, aucune graine aléatoire, aucune variance rapportée. À 4B, les indices pointent dans l'autre sens : CMSP gagne sur Flores (63,34 contre 63,17), AfriMMLU (36,72 contre 35,86) et AfriXNLI (40,44 contre 39,93), CMS ne gagnant que sur AfriMGSM. Et le meilleur score AfriXNLI à 4B appartient aux données monolingues seules (40,76), devant tous les mélanges. La recette adoptée pour les six modèles gagne donc une comparaison sur quatre à la petite échelle et quatre sur quatre à la grande, avec des écarts d'environ un point.
L'explication avancée — les grands modèles sont plus sensibles à la qualité des données, si bien qu'un corpus parallèle filtré mais bruité aide les petits modèles et nuit aux grands — est plausible et rejoint ce que l'on sait des recettes de mid-training. Elle n'est simplement pas établie par ces chiffres, et les auteurs la qualifient honnêtement d'hypothèse.
S'ajoute un problème de mesure que l'article signale lui-même, en note de bas de page : le tableau d'ablation utilise le backend HuggingFace tandis que tous les autres benchmarks passent par vLLM, de sorte que « les scores absolus peuvent différer ». Ils diffèrent beaucoup. Le score Flores de base de Gemma 3 12B est de 52,53 dans le tableau d'ablation et de 44,09 dans le tableau principal ; AfriXNLI passe de 39,81 à 44,01. Les ensembles de langues diffèrent aussi — l'ablation ne couvre que les langues du CPT, le tableau principal toutes les langues de chaque jeu de données — si bien que les deux effets sont confondus et qu'aucun ne peut être isolé. Dans tous les cas, 4 à 8 points séparent les deux dispositifs pour le même modèle sur la même tâche, alors que la décision sur le mélange, à l'intérieur de l'un d'eux, se joue sur 0,1 à 1,3 point. La recette retenue n'est jamais revalidée dans le dispositif qui produit les résultats phares.
Le résultat le plus susceptible de se reproduire est aussi le moins coûteux
Enfoui dans l'ablation se trouve le résultat sur lequel je parierais vraiment. Entraîner Gemma 3 12B sur du texte africain monolingue seul — 22 milliards de jetons — améliore nettement la traduction et l'inférence, mais dégrade les benchmarks de raisonnement : AfriMGSM 24,10 → 23,78, AfriMMLU 48,21 → 46,72. Ajouter seulement 2 milliards de jetons de code et de mathématiques renverse la tendance, dans tous les mélanges qui en contiennent et aux deux tailles de modèle.
C'est une intervention réduite, concrète et peu coûteuse, dont le signe reste constant sur deux échelles et cinq mélanges, et elle répond à un mode de défaillance que rencontrera quiconque fait de l'adaptation linguistique : déversez un gros volume de texte web monolingue peu doté et vous échangez contre lui du raisonnement que vous possédiez déjà. Deux milliards de jetons de données structurées — environ 8 % du corpus — le rachètent. L'explication par un « ancrage cognitif » relève de la spéculation, mais l'effet ne dépend pas de la justesse de l'explication.
L'anglais et le français en paient le prix, plus que le résumé ne l'admet
Le résumé affirme qu'AfriqueLLM obtient de bons résultats « tout en préservant largement la performance en anglais ». Le tableau 4 ne soutient pas cette formulation. L'anglais recule pour quatre modèles sur cinq — Llama 3.1 8B de 11,0 % en relatif, Gemma 3 12B de 7,4 %, Gemma 3 4B de 4,2 %, Qwen 3 14B de 4,1 % — et le français recule pour les cinq, y compris Qwen 3 8B, le seul modèle qui tient la parité en anglais (+0,8 % en anglais, -4,0 % en français). La baisse moyenne sur les langues à hautes ressources va de -1,6 % (Qwen 8B) à -10,2 % (Llama 8B).
La version honnête de l'affirmation est celle que donne la section de résultats : la série Qwen oublie le moins, et il y a bien un compromis. Pour un modèle destiné à des contextes en langues africaines, perdre 10 % en anglais est probablement un prix acceptable. Il ne faudrait simplement pas le décrire comme un prix non payé.
L'autre compromis est rapporté sans détour et mérite d'être salué pour cela : le transfert vers les langues absentes du mélange de CPT n'a quasiment pas lieu. Sur les langues africaines absentes à la fois du modèle de base et du CPT, les scores bougent entre -4,8 et +4,4 points, essentiellement du bruit. Les modèles AfriqueQwen montrent un petit transfert positif constant (+4,4 et +2,7), que les auteurs attribuent à la proximité bantoue avec le swahili et le kinyarwanda. Vingt langues dans le mélange signifie environ vingt langues améliorées, et la section sur les limites le dit : des centaines restent sans prise en charge.
Le chiffre que les praticiens devraient retenir, c'est la facture de calcul
L'annexe B.3 est la partie de cet article dont la valeur pratique est la plus immédiate, et elle tient en trois lignes de tableau. AfriqueQwen-14B — le modèle qui dépasse Gemma 3 27B — a demandé 64 H100 pendant 31,1 heures : environ 1 990 heures-GPU. AfriqueGemma-4B en a demandé 146. Les cinq exécutions rapportées totalisent à peu près 6 000 heures de H100 pour la suite entière.
C'est une facture étonnamment modeste pour un résultat de ce niveau, et cela recadre la nature de l'article. Ce n'est pas une histoire de calcul ni d'échelle ; c'est la démonstration qu'une couverture compétitive pour vingt langues mal servies se trouve désormais à quelques milliers d'heures-GPU et un bon mélange de données de distance, sur du matériel accessible à un cluster universitaire ou à un budget cloud modeste. Les auteurs rapportent en outre une utilisation des FLOPs du modèle de seulement 26 à 34 % et signalent des pics intermittents de norme de gradient qu'ils n'ont pas cherché à élucider — la facture n'est donc même pas optimisée.
Deux points plus discrets que les tableaux révèlent et que le texte lisse. Le balayage du taux d'apprentissage retient 5e-5 comme le taux qui « équilibre de manière optimale la conservation des connaissances antérieures et l'acquisition de nouvelles caractéristiques linguistiques », mais dans ce même tableau AfriMMLU — le benchmark de connaissances — s'améliore de façon monotone à mesure que le taux baisse, atteignant 37,2 à 1e-5 contre 34,7 au 5e-5 retenu. Le choix maximise la traduction et les mathématiques en abandonnant environ 2,5 points de connaissances : c'est un arbitrage pondéré vers la traduction, pas un équilibre. Par ailleurs, l'échantillonnage UniMax est présenté comme plafonnant chaque langue autour de 1,07 milliard de jetons, mais les six langues les moins dotées n'atteignent pas ce plafond même à quatre époques — le tswana et l'oromo culminent vers 370 millions, un tiers du budget dont bénéficient les langues du haut du tableau. L'oromo affiche pourtant certains des plus forts gains de l'article, ce qui est soit encourageant sur le peu de données nécessaires, soit un signe que le plafond du benchmark y est bas.
Une affirmation de la conclusion ne correspond à aucun tableau
La conclusion indique qu'AfriqueQwen-14B surpasse « le NLLB-MoE de 54 Md en traduction ». Le seul chiffre de NLLB-MoE-54B dans l'article est 65,72 en SSA-COMET, dans le tableau d'ablation, sur les langues couvertes par le CPT. Le score Flores d'AfriqueQwen-14B est de 63,77 — dans le tableau principal, sur un ensemble de langues plus large. Les deux ne sont pas comparables, et dans le tableau d'ablation le modèle qui franchit effectivement 65,72 est AfriqueGemma-12B, à 66,23, qui n'est pas celui que la phrase crédite. Le fond est probablement juste — des LLM généralistes adaptés qui égalent un MoE de traduction dédié de 54 Md sur ces langues, c'est un résultat réel, et les chiffres de traduction au niveau document du tableau 6 en donnent une version plus forte, où trois modèles Afrique battent une référence spécialisée affinée sur des données qu'ils n'ont jamais vues. Mais telle qu'elle est écrite, l'affirmation repose sur la comparaison de deux nombres que l'article a délibérément laissés dans des tableaux séparés.
Le cadre stratégique mérite d'être nommé, car ce blog a désormais vu le même pari posé depuis trois continents. La réponse d'AfriqueLLM à la question « comment une langue mal servie obtient-elle un bon modèle » est la même que celle de Sakana pour le japonais : n'en entraînez pas un, adaptez les poids ouverts de quelqu'un d'autre. Le contraste avec le LLM-jp-4-33b du NII, entraîné de zéro et ses 11 700 milliards de jetons, résume tout l'argument en deux nombres — 11 700 milliards contre 26 milliards, soit un facteur d'environ 450 sur les jetons, pour un modèle compétitif dans les langues qu'il vise.
Il y a à ce pari un bonus peu commenté. Les poids adaptés héritent de la licence de leur modèle de base : le meilleur modèle de l'article est donc aussi le plus librement utilisable — l'Apache-2.0 de Qwen 3 voyage jusqu'à AfriqueQwen, là où AfriqueGemma et AfriqueLlama emportent avec eux les Gemma Terms et la Llama Community License. Pour qui a déjà dû déterminer où un modèle se situe sur l'échelle de l'ouverture avant de construire dessus, voir la recette qui gagne sur les benchmarks coïncider avec celle qui gagne sur les termes de licence est un alignement d'incitations rare.
La faiblesse évidente d'une stratégie d'adaptation est qu'elle roule sur un tapis roulant : le modèle de base le plus récent de cet article est Qwen 3.5, et Qwen a sorti plusieurs générations depuis. Mais cela plaide plutôt en faveur de la stratégie. Une campagne de 11 700 milliards de jetons partant de zéro ne se refait pas quand une meilleure architecture arrive. Une recette de 2 000 heures-GPU se relance sur le point de contrôle du trimestre suivant — et la contribution durable ici n'est pas les six modèles, c'est le constat qu'il faut viser, pour cette relance, le modèle de base le plus fort, et non celui qui revendique vos langues.