Mac Studio M5 Ultra, Strix Halo oder DGX Spark: Welche Box lokale Sprachmodelle wirklich schnell macht

Apple hat am 25. August den neuen Mac Studio mit M5 Max und M5 Ultra angekündigt, Auslieferung ab 22. September, die 512-GB-Variante Ende Oktober. Damit stehen drei Desktop-Boxen mit 128 GB und mehr einheitlichem Speicher nebeneinander, die alle dasselbe versprechen: ein großes Sprachmodell lokal, ohne Grafikkarten-Verbund. Wir betreiben so etwas mit vier RTX 5090 und Tensorparallelität; die Frage, ob eine dieser Boxen den Aufbau ersetzen könnte, ist deshalb keine Theorie. Die Antwort steckt in einer einzigen Spalte des Datenblatts, und es ist nicht die mit den Petaflops.

Die Kandidaten

Die Preise sind das erste Ergebnis. NVIDIA hat den Listenpreis des DGX Spark am 23. Februar von 3.999 auf 4.699 US-Dollar erhöht, mit Verweis auf die Speicherknappheit; in Europa stieg der Preis von 4.180 auf 4.800 Euro, der Straßenpreis liegt heute bei 5.629. Der Framework Desktop mit 128 GB kostete beim Start im Februar 2025 noch 1.999 US-Dollar, im Januar 2026 waren es 2.459, und im EU-Konfigurator steht er heute bei 3.889 Euro, ausverkauft. Firmenchef Nirav Patel gegenüber PCWorld: Genau die 128-Gigabit-Bausteine seien am stärksten im Preis gestiegen, und davon stecken acht in der 128-GB-Konfiguration. Apple hat beim alten Mac Studio die 128- und 512-GB-Optionen zeitweise aus Liefergründen gestrichen.

Warum die Bandbreite entscheidet

Beim Erzeugen von Text zieht jedes Token alle aktiven Gewichte einmal durch den Speicher. Ein dichtes 70B-Modell in 4-Bit-Quantisierung sind rund 40 GB je Token; bei 273 GB/s sind das theoretisch sieben Token pro Sekunde, gemessen weniger. Ein MoE-Modell mit 3 Milliarden aktiven Parametern zieht je Token nur zwei Gigabyte. Genau das zeigen die Messungen auf dem DGX Spark: Ein 32B-Dense-Modell liefert unter llama.cpp 10,7 Token/s, ein 30B-MoE mit 3 Milliarden aktiven Parametern 89,3, bei gleicher Quantisierung auf derselben Maschine. Auf dem Strix Halo dasselbe Bild, nur schärfer: ein dichtes 70B-Modell 5,0 Token/s, ein 122B-MoE mit 10 Milliarden aktiven Parametern 19,1.

Die Zahlen des M5 Max stammen aus dem MacBook Pro mit demselben Chip und derselben Bandbreite von 614 GB/s; hardware-corner hat sie im März unter MLX gemessen. Für den M5 Ultra gibt es keinen einzigen Messwert, das Gerät ist noch nicht ausgeliefert. Wer aus den 1.200 GB/s eine Zahl ableitet, rechnet, er misst nicht.

Wo Apple verliert

Bandbreite ist nicht alles, und Tom's Hardware hat das im Juli in einem Dreiervergleich mit dem M4 Max belegt. Der Mac hatte die doppelte Bandbreite von GB10 und Strix Halo, lieferte beim Decode aber je nach Modell nur 25 bis 126 Prozent mehr. Beim Prefill, also beim Einlesen eines langen Prompts, lag er unter dem GB10 und bei einem dichten 12B-Modell sogar unter dem Strix Halo. Der ältere Extremfall: ein M3 Ultra brauchte für einen 8.000-Token-Prompt an DeepSeek V3 888 Sekunden bis zum ersten Token. Apple hat dafür im M5 Matrixeinheiten in jeden GPU-Kern gebaut und verspricht 4-fache Prompt-Verarbeitung gegenüber dem M3 Ultra; MLX nutzt sie, die llama.cpp-Laufzeit in LM Studio laut einem seit Juni offenen Fehlerbericht noch nicht.

Dazu kommt das Ökosystem. Auf dem Mac gibt es kein vLLM, kein CUDA und keine GPU im Container. MLX ist schnell, aber ein eigener Pfad. Der DGX Spark ist die einzige der drei Boxen, auf der vLLM, SGLang, TensorRT-LLM und Fine-Tuning ohne Umweg laufen; die Reibung sitzt bei ARM64-Wheels, nicht bei CUDA. Strix Halo ist der einzige Kandidat mit Windows 11, läuft mit llama.cpp gut, hat aber kein natives FP8 in der RDNA-3.5-GPU, weshalb vLLM dort nur als Eigenbau existiert.

Wo NVIDIA nicht liefert, was das Datenblatt sagt

Das Petaflop des DGX Spark ist laut NVIDIAs eigener Fußnote ein theoretischer FP4-Wert mit Sparsity. John Carmack hat im Oktober gemessen, dass die Box bei rund 100 Watt Leistungsaufnahme stehen bleibt, weniger als die Hälfte der 240 Watt Nennwert, und etwa die Hälfte der beworbenen Leistung liefert; Tom's Hardware hat den Befund und NVIDIAs Fußnote nebeneinandergestellt. Im Leerlauf zieht der Spark 35 Watt, das Drei- bis Vierfache eines Strix-Halo-Rechners mit 8 bis 10 Watt, vor allem wegen der ConnectX-7-Netzwerkkarte. Die braucht man für das, was den Spark von den anderen unterscheidet: zwei Geräte lassen sich offiziell koppeln.

Apple hat dafür seit macOS 26.2 RDMA über Thunderbolt 5 und eine eigene Bibliothek für verteiltes MLX; auf der WWDC lief ein Billionen-Parameter-Modell auf vier M3 Ultra, unabhängig nachgemessen mit 28 bis 30 Token/s für Kimi K2 auf vier Mac Studio mit je 512 GB.

Was ein Gigabyte kostet

Der eindrücklichste Direktvergleich steht in der Mitte der Tabelle: HP Z2 Mini G1a mit Strix Halo für 5.354 Euro gegen Mac Studio M5 Max mit 128 GB für 5.859 Euro. Neun Prozent Aufpreis für die 2,4-fache Bandbreite. Der Preisvorteil, den AMD im Frühjahr 2025 hatte, ist im Speichermarkt dieses Jahres weitgehend verschwunden; er bleibt bei den chinesischen Mini-PCs, die keinen Support mitbringen.

Der Nachfolger auf der IFA

AMD hat mit dem Ryzen AI Max+ PRO 495 den Nachfolger des 395 angekündigt: dieselben 16 Zen-5-Kerne und 40 Compute Units, Boost auf 5,2 GHz, NPU 55 TOPS, und vor allem bis zu 192 GB LPDDR5X-8533, davon 160 GB für die GPU. Die Bandbreite steigt auf 273 GB/s, exakt das Niveau des DGX Spark, 6,6 Prozent über dem 395. Framework hat einen Desktop damit angekündigt, Acemagic zeigt den F9A auf der IFA in Berlin und behauptet, DeepSeek V4 Flash mit 284 Milliarden Parametern lokal laufen zu lassen. Preise nennt niemand. Die Rechnung von oben gilt auch hier: 50 Prozent mehr Kapazität bei sechs Prozent mehr Bandbreite heißt, dass man ein größeres Modell laden kann, um es langsamer laufen zu lassen. Für MoE-Modelle mit wenigen aktiven Parametern ist das trotzdem ein echter Schritt, für dichte Modelle keiner.

Unsere Sicht

Für dichte Modelle ab 30 Milliarden Parametern ist von den drei Boxen nur der Mac Studio schnell genug, und dort nur, wenn MLX das Modell trägt. Für MoE-Modelle bis 120 Milliarden Parameter tun es alle drei, und dann entscheidet das Ökosystem: CUDA auf dem Spark, Windows und Preis beim Strix Halo, Bandbreite und Cluster beim Mac. Unsere vier RTX 5090 ersetzt keine davon: 128 GB VRAM bei rund 1,8 TB/s je Karte und 32 gleichzeitigen Anfragen sind eine andere Klasse, zum anderen Preis, mit anderem Stromverbrauch. Wer eine Box für einen Arbeitsplatz sucht, wartet auf die ersten M5-Ultra-Messungen nach dem 22. September und auf einen Preis für den 495. Beides gibt es heute noch nicht, und beides ändert die Rangfolge.

Weiterführende Quellen

• Apple Newsroom: Mac Studio mit M5 Max und M5 Ultra
• Apple: Mac Studio Tech Specs
• NVIDIA: DGX Spark
• ComputerBase: AMD Ryzen AI Max+ 395 im Test
• Tom's Hardware: M4 Max gegen GB10 und Strix Halo
• LMSYS: DGX Spark mit SGLang und Ollama
• llama.cpp-Diskussion zum DGX Spark
• lhl: Strix Halo Bandbreite und Backends
• soothill.io: ROCm gegen Vulkan auf Strix Halo
• Unser Beitrag zur DRAM-Bandbreite auf 4× RTX 5090