Zum Inhalt springen
senn-techsenn-tech
Zurück zum Blog
KI-Hardware
Lokale KI und GPU-Hardware2026-10-19· Von Franz Senn

192 GB im Warenkorb: was die neuen Boxen kosten und was DeepSeek auf ihnen läuft

Am 8. September haben wir drei Desktop-Boxen für lokale Modelle verglichen und den Nachfolger des Ryzen AI Max+ 395 nur als Datenblatt geführt: 192 GB statt 128 GB, kein Preis. Sechs Wochen später nennen mehrere Hersteller Preise, ein Käufer hat ein Gerät vermessen, und eine offene Messreihe führt Läufe auf dem neuen Chip. Die Rechnung aus unserem Beitrag über zwei DGX Spark mit DeepSeek lässt sich damit erstmals an fremden Messwerten halten.

Gorgon Halo ist der Codename des Ryzen AI Max+ PRO 495, des Nachfolgers vom Ryzen AI Max+ 395 („Strix Halo"). Der Chip hat 16 Zen-5-Kerne, 40 Grafikeinheiten und eine NPU mit bis zu 55 TOPS. Er teilt bis zu 192 GB LPDDR5X-8533 zwischen Prozessor und Grafik, bis zu 160 GB davon weist AMD dem Grafikteil zu.

Was sich am Chip geändert hat

AMD nennt für den 495 bis zu 192 GB, auf der Produktseite 256 Bit Anbindung und LPDDR5X-8533. Die Seite des Ryzen AI Max+ 395 nennt 256 Bit, LPDDR5X-8000 und höchstens 128 GB. Daraus rechnen wir 273 gegen 256 GB/s, also 6,7 Prozent mehr Bandbreite. Framework nennt für den 495 ebenfalls 273 GB/s und schreibt in seinem Bestellblog, die Inferenz werde gegenüber dem ersten Desktop schneller, ohne eine Zahl dazu.

Beim Erzeugen von Text bestimmt vor allem die Bandbreite das Tempo. Beim 395 hat lhl (llm-tracker.info) beim Decode rund 180 GB/s gemessen, etwa 70 Prozent des Nennwerts; wir haben das in unserem Vergleich vom 8. September zitiert, nachgemessen haben wir es nicht. Wer ein 495-Gerät kauft, bekommt 50 Prozent mehr Speicher und auf dem Papier 6,7 Prozent mehr Tempo.

Was die Geräte kosten

Die Tabelle zeigt Listenpreise der Hersteller und Händler in der jeweiligen Währung, ohne Versand. Wir haben keines der Geräte gekauft oder gemessen.

GerätAusbauPreisStandQuelle
GMKtec EVO-X5 Pro, PRO 495192 GB + 2 TB6.249 Euro (30 Stück), 6.399 Early Bird, 6.599 regulär28.09.2026ComputerBase
ACEMAGIC F9A, PRO 495bis 192 GB (SSD-Größe laut Quelle nicht genannt)6.499 US-Dollar, Vorbestellung30.09.2026Newsshooter
Framework Desktop DIY, PRO 495192 GBab 6.799 US-Dollar30.09.2026Phoronix
AMD Ryzen AI Halo, PRO 495192 GB + 2 TB7.299,99 US-Dollar12.10.2026VideoCardz
Minisforum MS-S1 MAX P495192 GB + 2 TB7.399 US-Dollar28.09.2026VideoCardz
GMKtec EVO-X2, Max+ 395128 GB3.799 Euro08.09.2026unser Vergleich

Zwei Hersteller sind über zwei Generationen vergleichbar. GMKtec will für den EVO-X5 Pro mit 192 GB regulär 6.599 Euro, das Vorgängergerät mit 128 GB stand in unserem Vergleich mit 3.799 Euro: 74 Prozent Aufpreis für 50 Prozent mehr Speicher, pro Gigabyte 34,37 gegen 29,68 Euro, also rund 16 Prozent mehr. AMDs eigenes Gerät geht denselben Weg: laut VideoCardz 3.999,99 US-Dollar für 128 GB zum Start im Juni, jetzt 7.299,99 für 192 GB, pro Gigabyte 38,02 gegen 31,25 US-Dollar. Auf AMDs eigenen Blogseiten steht kein Preis. Die 30 Stück zu 6.249 Euro sind kein Preis, den man nachbestellen kann.

Kaufbar heißt zurzeit bestellbar. GMKtecs Produktseite blockt automatische Abrufe; der Produktfeed des Shops nannte die 192-GB-Variante mit 2 TB am 05.11.2026 lieferbar, Versand binnen drei Werktagen. Minisforum UK führt die Ausführung als ausverkauft und nennt Versand Mitte November, Framework liefert nach eigener Angabe ab November, ACEMAGIC nannte bei der Vorbestellung Ende Oktober (Newsshooter, 30.09.2026; ob das gehalten hat, haben wir nicht geprüft). AMDs Halo führt Micro Center laut VideoCardz in mehreren US-Filialen als Ladenkauf (Linux-Fassung, nur im Geschäft).

Was auf so einem Gerät läuft

Ein Nutzer von r/LocalLLM hat ein Minisforum MS-S1 MAX P495 mit 192 GB bestellt, Fedora 44 installiert und am Wochenende mit llama.cpp (Vulkan, Build 23f7aab) gemessen. Er hat den Grafikspeicherbereich auf 160 GiB angehoben. Die Werte sind die Angaben eines einzelnen Käufers, wir haben nichts davon nachgemessen. Die Reddit-Seite war bei unserer Schlussprüfung am 05.11.2026 nicht abrufbar (Bot-Prüfung); wir geben die Zahlen so wieder, wie sie in einer früheren Abfrage des Beitrags standen, und konnten sie nicht erneut gegenlesen. Seine Antwortgeschwindigkeit bei leerem Kontext über sechs Modelle:

Antwortgeschwindigkeit auf einem 192-GB-Gerät mit 495-Chip, Token pro Sekundegpt-oss 120B MXFP458 · 58Qwen3.5 35B A3B Q6_K_XL53 · 53MiniMax-M2.7 230B IQ4_XS31 · 31Qwen3.8 Flash-Next Q4_K_XL28 · 28DeepSeek V4 Flash IQ3_S18 · 18Qwen3.8 27B dicht Q6_K_XL9 · 9060
Fremde Messung, nicht unsere und von uns zuletzt nicht gegenlesbar (Reddit-Seite am 05.11.2026 nicht abrufbar): ein Gerät, leerer Kontext, llama.cpp mit Vulkan. Das dichte Modell ist das langsamste, obwohl seine Datei nur 24 GiB misst. Ohne Multi-Token-Prediction. (Quelle: Reddit r/LocalLLM, Wochenendtest auf Minisforum MS-S1 MAX P495)

Die Dateigrößen tragen laut dem Reddit-Beitrag die eigentliche Nachricht: DeepSeek V4 Flash in 3 Bit füllt 108 GiB, MiniMax-M2.7 in IQ4_XS 101 GiB, Qwen3.8 Flash-Next in Q4_K_XL 104 GiB. Mit 131k Kontext belegte DeepSeek 108,9 GiB des Grafikspeicherbereichs, MiniMax mit 196k Kontext 127,4 GiB, das sind 68 und rund 80 Prozent. Bei 32k Kontext fällt DeepSeek auf 13 Token pro Sekunde, bei 128k auf 8. Sein Urteil: Er schickt das Gerät zurück, für 8.000 Dollar sei es das nicht wert. Seine Zahlen sind kurze Läufe mit 64 erzeugten Token und Vulkan statt HIP, das schreibt er selbst.

Dazu kommt die offene Messreihe local-llm-benchmarks.dev, die Läufe mit Protokoll führt. Nach der Datenbank (Abruf 05.11.2026) liegen darin 10 Einzel-Läufe auf Gorgon Halo und einer auf zwei verbundenen Geräten, dazu 79 auf Strix Halo. DeepSeek V4.1-Flash in Q2 kam am 30.09. auf 14,76 Token pro Sekunde, MiMo-V2.6-Flash in MXFP4 am 23.09. auf 18,27, ein GLM-5.3-Flash-Gemisch von 138 GB am 26.09. auf 7,26. Ein späterer Lauf vom 24.10. mit einer anderen Q2-Datei (kyuz0, 1017-Q2) steht mit 21,54 höher, allerdings mit spekulativem Dekodieren; das Protokoll dahinter haben wir nicht geprüft. Eine 138-GB-Datei passt auf kein 128-GB-Gerät: Die 192 GB bestimmen also, was überhaupt lädt. Zur Tempofrage des Chips sagt die Reihe wenig. GLM-5.3-Flash und DeepSeek V4.1-Flash haben zwar Läufe auf beiden Plattformen, doch auf einem Einzelgerät nie mit identischer Datei und identischer Software; ein sauberer Vergleich 395 gegen 495 lässt sich daraus nicht ableiten.

Unsere Messung daneben

Am 28. September haben wir DeepSeek V4 Flash mit 284 Milliarden Parametern auf zwei DGX Spark mit vLLM aufgerufen, in der Originalfassung mit 159,6 GB; die Messung steht in unserem Beitrag über den Spark-Verbund. Von den 256 GB gemeinsamem Speicher waren in diesem Aufbau 186 GB nutzbar.

AufbauDateiSoftwareToken pro SekundeGemessen von, Datum
2x DGX Spark159,6 GB, OriginalvLLM63,7 (Einzelnutzer)wir, 28.09.2026
Minisforum MS-S1 MAX P495108 GiB, IQ3_Sllama.cpp, Vulkan18 leer, 13 bei 32k, 8 bei 128kReddit-Nutzer, Beitrag (Datum von uns nicht prüfbar)
Gorgon-Halo-GerätQ2, antirezDwarfStar, ROCm14,76local-llm-benchmarks.dev, 30.09.2026

Ein sauberer Vergleich ist das nicht: andere Datei, andere Software, anderer Chip. Die Richtung ist trotzdem klar. Unser Zwei-Geräte-Aufbau war 3,5- bis 4,9-mal so schnell wie das Einzelgerät bei 18 und 13 Token pro Sekunde, und zwar mit der Originaldatei, die auf 192 GB nicht passt. Beim Geld: Zwei DGX Spark kosteten nach den Preisen aus unserem Oktober-Beitrag 13.900 US-Dollar, das sind 218 Dollar je Token pro Sekunde. Setzt man Frameworks Preis von 6.799 Dollar (laut Phoronix) an die Reddit-Werte des Minisforum-Geräts, ergeben sich im besten Fall 378 Dollar je Token pro Sekunde (bei 18) und bei 32k Kontext 523 Dollar (bei 13); Framework selbst hat dazu nichts gemessen. In unserem Vergleich zweier Karten pro Token kam eine RTX 5090 am 16. Oktober auf 51,05 Euro je Token pro Sekunde, allerdings mit einem 27B-Modell und in anderer Währung.

Die Zahl, an der die Herstellerversprechen scheitern, ist die Dateigröße. AMD weist bis zu 160 GB zu, die Dateien von DeepSeek V4 Flash summieren sich auf Hugging Face auf 159,62 GB, die Fassung vom 31. Juli (DeepSeek-V4-Flash-0731) auf 166,89 GB. AMD sagt nicht, ob die 160 GB Gigabyte oder Gibibyte meinen: In Gigabyte bleiben 0,4 GB für KV-Cache und Aktivierungen, in Gibibyte rund 12 GB. Im Reddit-Test lief nur die kleinere IQ3_S-Datei.

DeepSeek V4.1-Flash zeigt dieselbe Grenze von der anderen Seite. Die Q2-Datei von antirez misst 365,7 GB, davon 188,83 GiB Engram-Tabellen, die DwarfStar nach Angabe der Modellseite zeilenweise von der Platte liest, statt sie zu laden. So läuft das Modell auf einem Einzelgerät mit rund 15 Token pro Sekunde, während es bei unserem Spark-Paar am Speicher scheiterte.

Netz und Gehäuse

Alle Anbieter verbauen denselben Chip, also unterscheidet das Umfeld. Beim Netz laut Herstellerangaben: AMDs Halo bringt laut VideoCardz 10 Gbit Ethernet mit, GMKtec und Minisforum je zwei 10-Gbit-Anschlüsse und USB4 v2 mit 80 Gbit. Framework nennt 5 Gbit Ethernet und zwei USB4-Ports, dazu einen BIOS-Patch von AMD, der USB4-Direktverbindungen von 9 auf rund 30 Gbit hebt. ACEMAGIC bietet beim F9A zwei 2,5-Gbit-Anschlüsse und OCuLink. Für einen Verbund zweier Geräte, und nur so lief unsere DeepSeek-Messung, entscheidet diese Zeile mehr als die Prozentzahl beim Chip. Ob ein USB4- oder 10-Gbit-Verbund zweier 495-Geräte Tempo bringt, hat nach unserem Wissen noch niemand gemessen.

Was wir daraus machen

Gekauft wird nichts. Für unsere Aufgaben zählt der Preis je gelieferten Token, und den haben wir in unserem Vergleich mit 51,05 Euro je Token pro Sekunde auf einer RTX 5090 ermittelt. Zwei Hebel aus dem Reddit-Test (laut Beitrag, nicht von uns gegengelesen) haben mit dem Speicher nichts zu tun: Multi-Token-Vorhersage hob dort das dichte 27B-Modell von 9 auf 24 Token pro Sekunde, und das Wiederverwenden des zwischengespeicherten Prompts verkürzte die zweite Runde von 35 bis 164 Sekunden auf 1,2 bis 4,4. Multi-Token-Vorhersage nutzen wir selbst, zum Beispiel in dem Kartenvergleich oben.

Offen bleibt eine Frage: Ein Test derselben Datei mit gleicher Software auf einem 395 und einem 495 würde die 6,7 Prozent belegen oder widerlegen. Wer ein großes Modell im Betrieb braucht und prüfen will, ob ein Einzelgerät, ein Verbund oder eine Karte reicht, findet bei uns die Beratung zum Eigenbetrieb großer Modelle, und die übrigen Messungen dieser Reihe stehen im Themenbereich Lokale KI und GPU-Hardware.

Stand 5. November 2026: Wir haben diesen Beitrag gegen die Quellen nachgeprüft. Geändert haben sich die Verfügbarkeit (Minisforum UK Versand Mitte November, GMKtec laut Produktfeed lieferbar), mehrere Zitate und Zahlen, die die Quellen nicht trugen, die Dateigrößen von DeepSeek V4.1-Flash und die Aussage zur Messreihe: Sie enthält Läufe gleichnamiger Modelle auf beiden Chips, nur keine vergleichbaren.

Weiterführende Quellen

Fragen?
Passt DeepSeek V4 Flash auf ein Gerät mit 192 GB?+

Die Originalgewichte (FP4/FP8 gemischt) knapp, eine stärker quantisierte Datei bequem. Die Dateien von DeepSeek V4 Flash summieren sich auf Hugging Face auf 159,62 GB, die Fassung vom 31. Juli auf 166,89 GB. AMD gibt bis zu 160 GB als Grafikspeicher an, ohne zu sagen, ob das Gigabyte oder Gibibyte sind: in Gigabyte bleiben 0,4 GB Spiel, in Gibibyte rund 12. Der Reddit-Tester lud laut seinem Beitrag (von uns zuletzt nicht abrufbar) eine IQ3_S-Datei von 108 GiB und kam bei 131k Kontext auf 108,9 GiB belegten Grafikspeicher.

Ist ein Gerät mit dem neuen 495 schneller als eines mit dem alten 395?+

Auf dem Papier um 6,7 Prozent, nachgemessen ist das nicht. Beide Chips hängen an einer 256-Bit-Anbindung, nur der Speichertakt steigt von 8000 auf 8533 MT/s. Uns ist kein Test bekannt, der dasselbe Modell mit derselben Software auf beiden Chips gemessen hätte, und in der Datenbank von local-llm-benchmarks.dev (Abruf 05.11.2026) haben zwar GLM-5.3-Flash und DeepSeek V4.1-Flash Läufe auf beiden Plattformen, aber auf einem Einzelgerät nie mit derselben Datei und derselben Software.

Lohnt sich so ein Gerät für den Eigenbetrieb?+

Für große Modelle im Alltag nach heutigem Stand eher nicht. Die 495-Geräte kosten ab 6.249 Euro und erzeugen mit DeepSeek V4 Flash laut Reddit-Tester 8 bis 18 Token pro Sekunde, je nach Kontext, in der offenen Messreihe liegen große Modelle ohne spekulatives Dekodieren bei 7 bis 18. Unsere RTX 5090 kostete am 16. Oktober 2026 im österreichischen Handel 6.790 Euro und lieferte mit einem 27B-Modell 120 bis 146 Token pro Sekunde. Das sind verschiedene Modelle, der Vergleich zeigt nur die Größenordnung.

Zurück zum BlogLokale KI und GPU-Hardware