senn-tech
KI-NewsDeepSeek V4 Pro: 1,6 Billionen Parameter, 805 GiB auf der Platte
Ein weitergeleiteter Beitrag über DeepSeek V4 nennt runde Benchmark-Zahlen und sagt, ein einzelner Rechner genüge für das große Modell. Seinen Ursprung kennen wir nicht und verlinken ihn deshalb nicht. Wir haben stattdessen die öffentlichen Modellkarten gelesen und den Speicherbedarf der Gewichte selbst nachgemessen.
DeepSeek V4 Pro ist ein offenes Mixture-of-Experts-Sprachmodell von DeepSeek mit 1,6 Billionen Parametern, von denen je Token 49 Milliarden aktiv sind, und einem Kontext von einer Million Token (Modellkarte, MIT-Lizenz). Die Experten liegen in FP4 vor, der Rest überwiegend in FP8. Deshalb belegen die Gewichte 805 GiB und nicht die rund 3.000 GiB, die 16 Bit je Parameter ergäben.
DeepSeek V4 ist keine Neuigkeit dieser Woche. Das Repository von DeepSeek-V4-Pro wurde am 22. April 2026 angelegt, die Karte zuletzt am 22. Juni 2026 geändert (Hugging-Face-API, abgefragt am 5. November 2026). Danach kamen weitere Repositories: Flash-0731 am 31. Juli, Pro-0813 am 13. August, V4.1-Flash am 10. September und V4.1-Flash-1017 am 17. Oktober. Wie sich die jüngste Fassung verhält, steht in unserem Beitrag DeepSeek 1017: alter Modellname, neue Gewichte.
Korrektur vom 5. November 2026: Wir haben die Fassung vom 30. Oktober gegen die Quellen neu gelesen. Geändert sind die Byte-Summe der Shards (neu: 864.721.029.744), die Rechenwerte im Diagramm, vier Zeilen der Benchmark-Tabelle, die Preiszeile für zwischengespeicherte Eingabe und die Aussagen über unser Gateway. Die Zahl 87,1 und die Zahl 88,3 hatten wir falsch eingeordnet.
Was auf der Platte liegt
Die Karte nennt 1,6 Billionen Parameter bei 49 Milliarden aktiven und für die Präzision "FP4 + FP8 Mixed": Die Expertenparameter liegen in FP4, die meisten übrigen in FP8. Die config.json führt 384 geroutete Experten und 6 aktive je Token.
Wir haben am 5. November 2026 die Dateiliste über die Hugging-Face-API mit ?blobs=true abgefragt und die Größen der 64 .safetensors-Dateien addiert. Das Ergebnis ist 864.721.029.744 Byte, also 805,3 GiB. Die API-Metadaten zählen 1.598.839.674.782 Parameter. Daraus folgt die Rechnung im Diagramm.
| Größe | Wert | Einheit | Stand | Quelle oder Messträger |
|---|---|---|---|---|
| Parameter gesamt / aktiv | 1,6 Bio. / 49 Mrd. | Parameter | Karte vom 22.06.2026 | Herstellerangabe |
| Shard-Dateien | 64 | Stück | 05.11.2026 | eigene Abfrage, Hugging-Face-API, Arbeits-PC unter Windows |
| Summe der Shards | 864.721.029.744 | Byte | 05.11.2026 | dito |
| Summe der Shards | 805,3 | GiB | 05.11.2026 | dito |
| Gerechnet bei 16 Bit / 8 Bit | 2.978 / 1.489 | GiB | 05.11.2026 | Rechnung aus der API-Parameterzahl |
| Speicher unserer größten Inferenzmaschine | 127,4 | GiB | Messung am Host .180.3 | 4 × RTX 5090 mit je 32.607 MiB |
Die 805,3 GiB sind das 6,3-Fache des Speichers der vier Karten, und der Kontext kommt noch hinzu. Wer aus 1,6 Billionen Parametern drei Terabyte ableitet, liegt zu hoch, aber das Modell bleibt Rechenzentrumsklasse. Die aktive Parameterzahl ändert daran nichts: Alle 384 Experten müssen verfügbar sein, weil jedes Token andere wählen kann.
Was die Benchmark-Zahlen in den Karten sagen
Wir haben die Zahlen des weitergeleiteten Beitrags mit vier Karten abgeglichen: DeepSeek-V4-Pro (22.06.2026), Pro-0813, Flash-0731 und V4.1-Flash. Alle Werte in der rechten Spalte sind Angaben von DeepSeek. Wir haben keinen dieser Tests selbst gefahren.
| Behauptung im Beitrag | Karte | Was dort steht |
|---|---|---|
| 91 % SWE Verified | Pro | Nicht vorhanden. Dort stehen 80,6 % SWE Verified im Modus Pro Max. Pro-0813 und Flash-0731 führen SWE Verified nicht. |
| 55,4 % "Terminal-Bench Hard" | Pro | 55,4 % ist der Wert für SWE Pro (Pro Max). "Terminal-Bench Hard" kommt in keiner der vier Karten vor, Terminal Bench 2.0 steht dort mit 67,9 %. |
| 87,1 % Terminal-Bench | Pro-0813, Flash-0731 | 87,1 steht nicht in den Karten. Pro-0813 nennt 87,9 % auf Terminal Bench 2.1, Flash-0731 82,7 %. |
| 50 % Werkzeugtest | Pro | Toolathlon: 51,8 % für DeepSeek Pro Max. Die 50,0 % in derselben Zeile gehören zu Kimi K2.6 Thinking. |
| 88,3 % MCP Atlas | Pro, Pro-0813 | MCPAtlas Public: 73,6 % für Pro Max, bester Wert 73,8 % (Opus-4.6 Max). Die 88,3 stehen in der Pro-0813-Karte, aber als Terminal Bench 2.1 von Kimi K3. |
Mehrere Zahlen des Beitrags stimmen also mit echten Zellen überein, nur in einer anderen Zeile, einem anderen Modus oder bei einem anderen Modell. Wie sie dorthin gewandert sind, können wir nicht sagen. Wer eine Zahl weitergibt, braucht die Zeile, den Modus und das Datum der Karte dazu.
Was die Karte zur Architektur sagt
Auch das sind Herstellerangaben aus der Karte und dem technischen Bericht (arXiv 2606.19348):
- Zwei Aufmerksamkeitsverfahren im Wechsel, Compressed Sparse Attention und Heavily Compressed Attention. Bei einer Million Token Kontext braucht Pro laut Karte 27 % der Rechenoperationen je Token und 10 % des KV-Caches von DeepSeek-V3.2.
- Manifold-Constrained Hyper-Connections, die das Signal zwischen den Schichten stabil halten sollen.
- Der Muon-Optimizer und ein Vortraining auf mehr als 32 Billionen Token.
Pro-0813 gilt laut Karte als offizielle Fassung, die die Vorschau ablöst, und bringt ein Modul für spekulatives Dekodieren (DSpark) mit. Als Beispiel für den Betrieb nennt die Karte einen einzelnen Knoten mit vier GB300.
Preise der Schnittstelle
Die Preisseite von DeepSeek haben wir am 5. November 2026 von einem Server im Haus (dsh) abgerufen, vom Arbeits-PC bricht die TLS-Verbindung ab. Preise in US-Dollar je 1 Million Token. Spitzenzeit ist Montag bis Freitag 01:00 bis 04:00 und 06:00 bis 10:00 UTC außer an chinesischen Feiertagen, sonst gilt der halbe Preis.
| Posten | Pro, schwach | Pro, Spitze | Flash, schwach | Flash, Spitze |
|---|---|---|---|---|
| Eingabe, Cache-Treffer | 0,022 | 0,044 | 0,003 | 0,006 |
| Eingabe, kein Treffer | 0,66 | 1,32 | 0,15 | 0,30 |
| Ausgabe | 1,98 | 3,96 | 0,60 | 1,20 |
Als Modellfassung führt die Seite für deepseek-v4-pro die Version DeepSeek-V4-Pro-0813 und für deepseek-flash die Version DeepSeek-V4.1-Flash-1017. Die alten Flash-Namen deepseek-v4-flash und deepseek-v4-flash-vision-exp werden laut Fußnote weiter angenommen, die zugehörigen Modelle sind aber eingezogen. Ihre Anfragen bedient V4.1-Flash-1017 zum Flash-Preis. Preise von vor dem 5. November sagen deshalb über die heutige Abrechnung wenig.
Bei Pro kostet ein Cache-Treffer ein Dreißigstel eines Fehltreffers (0,022 gegen 0,66), bei Flash ein Fünfzigstel (0,003 gegen 0,15). Wie viel unserer Anfragen aus dem Vorrat kommen, messen wir im Beitrag vLLM Prefix-Caching im Eigenbetrieb.
Was das für uns bedeutet
Pro bleibt bei uns außen vor: 805,3 GiB Gewichte gegen 127,4 GiB Kartenspeicher. Für Kundendaten kommt für uns nur ein lokal laufendes Modell in Frage. Zum Hosting-Ort der DeepSeek-Schnittstelle und zur Datenschutzfrage steht unsere Einordnung im Beitrag KI-Radar: DeepSeek, von R1 zur V4-Reihe.
Für eine eigene Anschaffung ist die kleinere Variante der Maßstab. Wie weit die V4-Flash-Klasse auf Verbundspeicher kommt, haben wir an zwei DGX Spark im Eigenversuch gemessen. Weitere Einordnungen neuer Modelle sammelt der Bereich KI-Einordnung: Modelle, Markt, Meldungen. Wer prüfen will, welche Modellgröße zur vorhandenen Hardware passt, findet unser Vorgehen unter Unternehmens-LLM im eigenen Haus.
Weiterführende Quellen
- Modellkarte DeepSeek-V4-Pro (Größenangaben, Leistungstabelle, Stand 22.06.2026): huggingface.co/deepseek-ai/DeepSeek-V4-Pro
- Dateiliste mit Shard-Größen, Grundlage der 805,3 GiB: Hugging-Face-API mit blobs=true
- Modellkarte DeepSeek-V4-Pro-0813 (Terminal Bench 2.1, Betriebsbeispiel): huggingface.co/deepseek-ai/DeepSeek-V4-Pro-0813
- Modellkarte DeepSeek-V4-Flash-0731 (Tabelle vom 31.07.2026): huggingface.co/deepseek-ai/DeepSeek-V4-Flash-0731
- Technischer Bericht zu DeepSeek-V4: arxiv.org/abs/2606.19348
- Preisliste der DeepSeek-Schnittstelle, abgerufen am 05.11.2026: api-docs.deepseek.com
Braucht DeepSeek V4 Pro 1,6 Terabyte Speicher?+
Nein. Die Angabe 1,6 Billionen Parameter zählt Werte, keine Bytes. Die 64 Shard-Dateien belegen laut Hugging-Face-API 805,3 GiB (Abfrage vom 5. November 2026), weil die Experten in FP4 vorliegen und der Rest überwiegend in FP8. Mit 16 Bit je Parameter wären es rund 2.978 GiB, mit 8 Bit rund 1.489 GiB. Auf eine Arbeitsplatzkarte passt das Modell trotzdem nicht, auch nicht auf unsere vier RTX 5090 mit zusammen 127,4 GiB.
Steht eine SWE-Bench-Leistung von 91 Prozent in der Modellkarte?+
Nein. Die Karte von DeepSeek-V4-Pro nennt für den Modus Pro Max 80,6 Prozent auf SWE Verified und 55,4 Prozent auf SWE Pro, zwei verschiedene Tests. Beide Werte sind Herstellerangaben, die wir nicht nachgemessen haben. Die 91 Prozent finden wir in keiner der vier Karten, die wir gelesen haben.
Lohnt sich DeepSeek V4 Pro für den eigenen Serverraum?+
Bei uns nicht. Die Gewichte sind mit 805,3 GiB gut sechsmal so groß wie der Speicher unserer vier RTX 5090, und der Kontext käme noch dazu. Für die kleinere Variante Flash mit 284 Milliarden Parametern sieht die Rechnung anders aus, sie ist das Modell, an dem sich eine eigene Anschaffung messen lässt.