Apple a annoncé le Mac Studio avec puce M5 Ultra le 25 août 2026 — disponibilité générale le 22 septembre, la configuration à 512 Go arrivant spécifiquement fin octobre. Une comparaison côte à côte qui circule cette semaine (graphique via magnitude.dev, analyse via un tweet de Tom Greenwald) l'oppose à deux autres façons d'atteindre 512 Go de mémoire pour faire tourner de grands modèles en local : quatre unités NVIDIA DGX Spark en réseau, et quatre unités AMD Ryzen AI Halo en réseau. Les trois se situent à peu près dans la même fourchette de prix — mérite d'être précisé, car il est facile d'arrondir sans y prêter attention : le Mac Studio à 512 Go entièrement configuré dans la comparaison coûte environ 15 000 $, bien au-dessus du prix de départ réel du Mac Studio M5 Ultra, 5 499 $, pour une configuration à mémoire moindre. Le chiffre de 15 000 $ est ce que coûte une unité poussée au maximum, pas le prix de départ de la gamme.
Les trois configurations
| Mac Studio M5 Ultra | 4x DGX Spark | 4x AMD Ryzen AI Halo | |
|---|---|---|---|
| Prix | ~15 000 $ | ~18 800 $ | ~16 000 $ |
| Mémoire | 512 Go | 512 Go | 512 Go |
| Calcul | ~135 TFLOPS | ~300 TFLOPS | ~100 TFLOPS |
| Bande passante | 1,2 To/s | 273 Go/s | 256 Go/s |
| Puissance | ~270 W | ~960 W | ~560 W |
Le Mac Studio atteint 512 Go sous forme d'une seule puce avec tout sur un bus de mémoire unifiée unique. Les deux autres y parviennent en regroupant quatre boîtiers séparés, chacun avec son propre pool de mémoire plus petit, reliés en réseau pour agir comme un système plus grand.
Le calcul et la bande passante montent en charge différemment sous le clustering — et c'est là le vrai constat
Le tweet de Greenwald trace une distinction qui mérite d'être nommée directement, car elle explique pourquoi la même stratégie de clustering produit des résultats opposés sur les deux choses qui comptent pour l'inférence locale.
Le traitement des prompts (calcul) peut être combiné entre boîtiers en réseau, si l'interconnexion est assez rapide. Les unités DGX Spark sont reliées via du 200GbE — assez rapide pour réellement mettre en commun leur puissance de calcul, et le support natif FP4 lui donne un avantage supplémentaire sur les modèles quantifiés. C'est pourquoi quatre Spark en réseau se révèlent les plus rapides des trois sur le traitement des prompts, malgré une puissance de calcul brute par unité inférieure à celle du Mac Studio. Les unités AMD Halo sont reliées via un 10GbE bien plus lent — trop lent pour combiner significativement le calcul — donc quatre Halo en réseau finissent proches de la vitesse de traitement des prompts d'un seul Mac Studio, « un peu moins bien », selon Greenwald, malgré quatre puces physiques impliquées.
La génération de tokens (bande passante) ne peut pas être combinée entre boîtiers en réseau, quelle que soit la vitesse de l'interconnexion. C'est la partie contre-intuitive. Quand un modèle est réparti sur plusieurs boîtiers en réseau, les tokens sont générés en traversant séquentiellement les couches de chaque boîtier, l'un après l'autre — pas en parallèle — donc quatre boîtiers génèrent des tokens au plafond de vitesse d'un seul boîtier, pas quatre fois plus vite. C'est vrai aussi bien pour le cluster DGX Spark que pour le cluster AMD Halo, pour la même raison structurelle, indépendamment de la qualité de l'une ou l'autre interconnexion. Le Mac Studio unique, avec les 512 Go entiers sur un bus unique à 1,2 To/s, n'a aucun tel plafond à atteindre — Greenwald l'estime à environ 4 fois les tokens/seconde de l'un ou l'autre cluster en réseau.
Mis bout à bout : regrouper du matériel pour atteindre une capacité mémoire cible ne fait pas croître proportionnellement la vitesse de génération de tokens que cette capacité est censée servir. Cela fait bien croître la puissance de calcul de traitement des prompts, à condition d'une interconnexion assez rapide. Ce sont deux ressources différentes avec deux comportements de mise à l'échelle différents sous le même choix architectural, et il est facile de les confondre en ne regardant que des spécifications agrégées comme le total de TFLOPS ou le total de mémoire.
La puissance électrique raconte la même histoire d'efficacité sous un autre angle
Le Mac Studio consomme environ 270 W — « moins qu'un PC de jeu », selon Greenwald, et silencieux. Le cluster de quatre Spark consomme environ 960 W, « sature presque un circuit électrique mural » et chauffe. Le cluster de quatre Halo se situe à environ 560 W, environ la moitié de la consommation du cluster Spark mais tout de même décrit comme « un peu chaud ». Une puce unique, conçue pour gérer directement l'ensemble du pool de mémoire, évite d'emblée la surcharge liée au fonctionnement et au refroidissement de quatre systèmes séparés — le même avantage structurel qui produit son avance en bande passante réapparaît ici.
Ce que cela ne tranche pas
Greenwald présente « le vrai écart » comme étant la bande passante, et les chiffres soutiennent ce cadrage pour la génération de tokens spécifiquement — mais il vaut la peine d'être précis sur le fait que le traitement des prompts et la génération de tokens ne sont pas des mesures interchangeables de l'utilité d'un système, et lequel des deux domine dépend de ce qui tourne réellement. Une charge de travail dominée par de longs prompts contre une sortie comparativement courte (analyse lourde de documents, récupération à large contexte) penche vers le calcul comme goulot d'étranglement, là où l'avantage d'interconnexion du cluster DGX Spark compte le plus. Une charge de travail dominée par une longue génération contre un prompt court (raisonnement étendu, écriture longue) penche vers la bande passante comme goulot d'étranglement, là où le bus unifié du Mac Studio unique l'emporte nettement. Le propre billet de Greenwald est explicite sur le fait qu'il s'agit de son analyse d'un graphique tiers, pas d'un benchmark qu'il aurait exécuté lui-même — mieux vaut traiter le classement qualitatif comme crédible et corroboré indépendamment par des spécifications publiques, tout en traitant le cadrage de quel écart est « le vrai » comme son interprétation de ce qui compte le plus pour un usage local typique.
À surveiller
- Le Spark 2 serait à venir, selon Greenwald, mais il précise explicitement qu'une nouvelle génération ne changera pas cette dynamique à moins que la bande passante mémoire par unité n'augmente réellement — plus de calcul ou une interconnexion plus rapide ne corrige pas un plafond de bande passante.
- La même logique s'applique à la prochaine génération Halo d'AMD, ainsi qu'à toute amélioration de son interconnexion 10GbE comparativement lente — à surveiller pour voir si AMD referme l'écart de clustering du calcul avec Spark même si le plafond de bande passante reste en place.
- À surveiller : de vrais benchmarks de charge de travail, pas seulement des comparaisons de fiches techniques — la répartition calcul/bande passante décrite ici est une propriété structurelle du clustering, mais son importance réelle dépend du ratio effectif entre longueur de prompt et longueur de génération dans ce qui tourne réellement en local.
Références : Tom Greenwald — fil de comparaison matérielle · graphique de comparaison via magnitude.dev, fourni directement plutôt que récupéré (cet environnement n'a pas pu accéder à la page source de façon indépendante) · spécifications et prix du Mac Studio M5 Ultra confirmés indépendamment via l'annonce officielle d'Apple · couverture liée : FreeToken sert un modèle à 753 milliards de paramètres sur un seul GPU de station de travail · Poids ouverts que vous ne pouvez pas réellement faire tourner · NVIDIA n'a pas seulement ouvert le modèle — il a ouvert l'un des enseignants