Soofi S a été construit de bout en bout sur le German Industrial AI Cloud, une infrastructure d'IA souveraine à l'échelle HPC exploitée par Deutsche Telekom à Munich. Ce n'est pas un argument marketing — cela signifie que la puissance de calcul d'entraînement, les données et l'infrastructure relèvent toutes de la juridiction légale allemande/européenne, sans aucune dépendance envers AWS, Azure, GCP, ou tout autre fournisseur cloud américain. Pour la conformité RGPD, pour les marchés publics, pour les secteurs soumis à des exigences de résidence des données, cela compte d'une façon que « poids ouverts mais entraîné sur un cluster américain de Nvidia » ne permet pas.
Une architecture véritablement novatrice
La conception hybride n'active que 3B des 30B paramètres par token et maintient le cache d'inférence quasi constant à mesure que le contexte s'allonge — cette affirmation de « cache quasi constant » est le principal différenciateur technique. L'attention Transformer standard possède un cache KV qui croît linéairement avec la longueur du contexte. L'architecture hybride Mamba-2/MoE utilise 23 couches Mamba-2/MoE et 6 couches d'attention, avec 128 experts de routage et 6 actifs par token. Mamba est un modèle à espace d'états — il maintient un état récurrent de taille fixe plutôt que de mettre en cache tous les tokens précédents. Le résultat est que des contextes très longs ne coûtent pas proportionnellement plus de mémoire. Pour le traitement industriel de documents et les cas d'usage d'entreprise à contexte long, c'est un avantage réel par rapport aux architectures Transformer pures.
L'affirmation de transparence est la plus forte de la base de données
Soofi S sera publié selon des conditions d'accès ouvert hautement permissives : les poids, une sélection de points de contrôle intermédiaires, une comptabilité complète des données par source, les hyperparamètres, ainsi que le code d'entraînement et d'évaluation. Lorsque les licences des sources le permettent, les artefacts de construction des données sont publiés sous licences permissives ; les sources sous licence commerciale sont documentées avec des statistiques agrégées et une comptabilité exacte du mélange.
Aucun autre modèle de la base de données Frontier Arcade n'a publié une comptabilité complète des données par source. La plupart des laboratoires ne nomment même pas leurs sources de données. Soofi S publie le mélange exact — chaque source, le pourcentage de tokens d'entraînement qui en provient, et la licence qu'elle porte. C'est un niveau de transparence que le domaine n'avait jamais vu à cette échelle.
Des rivières, pas seulement des noms de version
Le nom Rhine (Soofi-S-Rhine-Preview, l'une des deux variantes de raisonnement) est celui d'un fleuve. Le nom Isar (l'autre variante de raisonnement) est également celui d'une rivière — celle de Munich, plus précisément. Ce choix de noms est un signal délibéré de géographie européenne.
Liens
- Article : A Sovereign, Open-Source Foundation Model for German and English (arXiv:2607.09424)
- Collection de modèles : Soofi-S Beta Models on Hugging Face
- Modèle de base : Soofi-Project/Soofi-S-Base
- Avant-première de raisonnement : Soofi-Project/Soofi-S-Rhine-Preview