RTX 5090 vergriffen, RTX Pro 5500 mit 84 GB: die Kaufrechnung neu gemacht

Ende August haben wir nachgemessen, wo unsere Inferenz-Lane wirklich läuft: nicht über die CUDA-Kerne, sondern über den Speicherbus (eigene Messung). Drei Wochen später steht die Kauffrage neu auf dem Tisch, und sie lässt sich ohne Meinung beantworten. Die RTX 5090 ist aus dem US-Onlinehandel verschwunden, Drittverkäufer rufen bis zu 9.500 USD auf. NVIDIA setzt mit der RTX Pro 5500 eine Workstation-Karte auf denselben GB202-Chip, mit 84 statt 32 GB. Wer jetzt kauft, vergleicht nicht zwei Preise. Wer jetzt kauft, vergleicht zwei Engpässe.

Was der Markt gerade zeigt

Die Zahlen, Stand Mitte September 2026, alle aus der Berichterstattung, nicht aus dem eigenen Warenkorb:

• RTX 5090: online nicht mehr zu bekommen. Drittverkäufer fragen 6.395 bis 9.500 USD. Der Median im Juni lag bei 4.299 USD, der niedrigste gedruckte Preis Anfang September bei 5.199 USD, ein Micro Center vor Ort lag weiter bei rund 4.299 USD.
• RTX Pro 5500 Blackwell: derselbe GB202, 170 SM, 21.760 CUDA-Kerne, dafür 84 GB GDDR7 an einem 448-bit-Bus mit 1.398 GB/s, 600 W. Die 5090 dagegen: 32 GB und 1.790 GB/s.
• Kein offizieller Preis für die Pro 5500. Eingeklammert wird sie von der RTX Pro 6000 (96 GB, 15.599 USD) und der RTX Pro 5000 (72 GB, 9.209 USD).

Das sind US-Einzelhandelspreise, mittelbar beobachtet. Österreichische Listen- oder Straßenpreise sind zu diesem Zeitpunkt nicht verifiziert, und wir haben keine Bezugsquelle für Tirol getestet. Wer die Zahlen für eine Beschaffung im Unterland benutzt, muss den AT-Preis selbst erfragen.

Welcher Rohstoff zuerst ausgeht

Die Frage nach der richtigen Karte ist nicht „wie viel VRAM", sondern: wonach läuft der Betrieb zuerst leer. Zwei Arbeitsprofile, zwei Antworten.

Dichtes Modell, Decoding. Ein 27B-Modell hält alle Gewichte im Grafikkartenspeicher, und jedes Token zieht sie einmal durch den Bus. Genau deshalb war unsere DRAM-Messung überhaupt aufschlussreich: Der KV-Cache-Verkehr verhält sich wie streamender HBM-Zugriff, das Limit ist die Bandbreite und nicht die Rechenleistung (Messung, Betrieb). Auf diesem Profil sind 1.790 gegen 1.398 GB/s ein Unterschied von 22 Prozent, den keine Kapazität der Welt repariert. Die Pro 5500 hat auf diesem Profil weniger Bandbreite als die 5090, bei gleichem Chip, gleicher Kernzahl und dem Zwei- bis Dreifachen des Medianpreises.

MoE, Experten-Offload, langer Kontext. Sobald ein Modell Teile seiner Experten oder seines Kontexts auslagern muss, ist Speichergröße die Wand. 32 GB sind dort kein langsamerer Zustand, sondern ein anderer Betrieb: Offload über den Host-Speicherbus kostet pro Token zwei Bus-Durchläufe, und ab einer Modellgröße geht schlicht nichts mehr. 84 GB sind auf diesem Profil eine andere Maschine.

Die Merkhilfe, die wir uns selbst notiert haben: Bandbreite bestimmt, wie schnell ein Token entsteht. Kapazität bestimmt, ob das Modell überhaupt im Haus steht. Beides gleichzeitig kauft man in dieser Preisklasse nicht.

Die Kaufrechnung

Unsere Vergleichszahl ist gemessen, nicht gerechnet: ein Monat Agentenbetrieb, 18,3 Milliarden Tokens, 261 Euro eigene Strecke gegen 7.640 Euro API-Listenpreis (Nachrechnung). Das sind 7.379 Euro Unterschied im Monat. Dagegen stellen wir vier Karten, weil unsere Lane mit Tensorparallelität über vier Karten läuft.

Tabellenfuß, Rechenannahme in einem Satz: einfache lineare Abschreibung über N Monate, nur Hardware, ohne Strom, Rack und Personal, US-Listenpreise in USD gegen eine Ersparnis in Euro, ohne Kurs umgerechnet. Das ist keine Preisangabe und kein Angebot, es sind mittelbar beobachtete US-Preise, und ein österreichischer Endpreis ist nicht verifiziert.

Zwei Dinge fallen an dieser Tabelle auf. Erstens: Bei 9.500 USD zahlt man für 32 GB mehr, als die RTX Pro 5000 mit 72 GB ausruft. Der Verknappungspreis der Consumer-Karte ist kein Qualitätsaufschlag, sondern eine Panikprämie, und die bekommt man nicht zurück, wenn sich die Regale wieder füllen. Zweitens: In den 261 Euro steckt die Abschreibung der jetzigen Karten bereits drin. Wer neue Karten in dieselbe Ersparnis rechnet, schiebt eine zweite Abschreibung auf denselben Monatsgewinn. Die Tabelle ist deshalb eine Schmerzgrenze und keine Amortisationsrechnung. Sie sagt nur: Was mehr als das Fünffache eines Monatsgewinns kostet, ist zu teuer, egal welches Logo draufsteht.

Kapazität ohne Kernels

Der Haken, den niemand im Datenblatt nennt. NVIDIA verkauft FP4, bevor die zugehörigen Kernel da sind: Qwen3.8-27B-NVFP4 erschien am 4. September 2026 unter Apache 2.0, DeepSeek-V4.1-Flash-NVFP4 am 16. September 2026. Eine Woche nach vLLM v0.29 listet der Tracker auf genau dem Blackwell-Pfad, was im Betrieb bricht:

• Issue 57156, 16. September: „DeepSeek-V4.1 produces NaN with CUDA graphs on SM120/121"
• Issue 57292, 17. September: sparse-MLA mit 64-Token-Seiten auf SM120
• Issue 57209: FlashInfer bmm_fp8 auf sm_12x fest an cuBLAS gebunden

Die Checkpoints existieren, der Code-Pfad für die Karte ist derjenige, der gerade bricht. Wer heute FP4-Reserve kauft, kauft damit einen Plan und keine Kapazität: Die 84 GB sind real, der Weg, sie in der vorgesehenen Präzision zu füllen, ist es in dieser Woche nicht durchgängig.

Das ist prüfbar, und zwar vor der Bestellung, nicht danach. Wir fahren den Test so: vorgesehenes Modell, vorgesehene Präzision, vorgesehener KV-Cache-Typ, CUDA Graphs an, langer Kontext, dieselbe Engine-Version wie später im Betrieb, und das über ein Arbeitsprofil mit mehreren parallel laufenden Sequenzen. Was danach sauber durchläuft, ist kaufbar. Was in der Demo des Händlers läuft, ist die Sorge des Händlers, nicht die des Projekts. Und was nur mit Abschaltungen läuft, ist eine Roadmap, die man nicht mit dem eigenen Terminplan bezahlt.

Standpunkt

Wir verkaufen keine Hardware und verdienen an keiner Karte, auch nicht an einer Empfehlung. Unsere eigene Lane bleibt bei der 5090, solange Bandbreite der Engpass ist und 32 GB für das dichte Modell ausreichen. In dem Moment, in dem wir MoE mit langem Kontext produktiv bedienen, kaufen wir Kapazität. Dann steht aber nicht 5090 gegen Pro 5500 zur Auswahl, sondern 84 GB gegen CPU-Offload, also die Frage, ob eine Karte mit großem Speicher die billigste Antwort ist oder ein Host mit vielen Kanälen und sauberem Offload-Pfad (Rechnung dazu). Diese Entscheidung fällt bei uns mit einem Messprotokoll und nicht mit einem Launch-Artikel, und sie fällt erst, wenn es das Arbeitsprofil gibt.

Weiterführende Quellen

• Tom's Hardware: NVIDIAs RTX 5090 verschwindet aus dem US-Onlinehandel, Drittverkäufer fordern bis 9.500 USD
• Tom's Hardware: RTX Pro 5500 liefert 2,6x VRAM bei gleicher Spezifikation
• NVIDIA RTX Pro Workstations, Produktdaten
• Hugging Face: nvidia/DeepSeek-V4.1-Flash-NVFP4
• Hugging Face: nvidia/Qwen3.8-27B-NVFP4
• vLLM Issue 57156: DeepSeek-V4.1 produces NaN with CUDA graphs on SM120/121
• vLLM Issue 57292: sparse-MLA 64-token pages on SM120
• vLLM Issue 57209: FlashInfer bmm_fp8 pinned to cuBLAS on sm_12x