Nemotron 3.5 Transcribe: 34-Milliarden-Modell für offene Spracherkennung

Nvidia hat am 28. Oktober 2026 Nemotron 3.5 Transcribe veröffentlicht, ein offenes Gewichtsmodell, das Transkription, Übersetzung, Sprecherzuordnung und Fragen an eine Aufnahme in einem Modell vereint. Die Lizenz OpenMDW-1.1 kennt keine Umsatzgrenze, und mit 34 Milliarden Parametern ist das Modell für Spracherkennung ungewöhnlich groß. Der Beitrag trennt zwei Fragen: Passt es auf Hardware, wie wir sie haben, und trägt die Genauigkeit, die Nvidia nennt?

Nemotron 3.5 Transcribe ist ein offenes Sprachmodell von Nvidia für Audio. Es hat 34 Milliarden Parameter, davon 4,3 Milliarden aktiv, und verarbeitet Aufnahmen bis zu einer Stunde offline. Es transkribiert 40 Sprachen, übersetzt 31 Sprachen von und nach Englisch, ordnet Sprecher in 13 Sprachen zu und beantwortet englische Fragen zum Gehörten. Die Gewichte stehen unter der OpenMDW-1.1-Lizenz.

Ein Modell für mehrere Aufgaben

Die Modellkarte auf Hugging Face beschreibt ein Modell, das sonst getrennte Programme erledigen. Die Aufgabe wählt man mit dem Prompt: Transkription in 40 Sprachen, Übersetzung zwischen Englisch und 31 weiteren Sprachen, Transkription mit Sprecherkennung (13 Sprachen, darunter Deutsch) und Antworten auf Fragen zum Gehörten. Das Frage-Antwort-Verhalten wurde laut Karte nur auf Englisch ausgewertet; wer es auf Deutsch braucht, muss es selbst prüfen.

Das Modell arbeitet offline. Die Karte schreibt ausdrücklich, dass die interne Aufteilung in Blöcke von 30 Sekunden kein Streaming bedeutet. Trainiert wurde mit Aufnahmen bis zu einer Stunde bei 65.536 Token Kontext. Für Besprechungen und Vorlesungen reicht das, für einen ganzen Arbeitstag am Stück nicht. Ein Detail zum Namen: Das Repository heißt 30B-A4B, die Karte nennt 34 Milliarden Parameter insgesamt, weil der Audio-Encoder dazugezählt wird, und 4,3 Milliarden aktive. Die Schnittstelle von Hugging Face weist 33.697.781.029 Parameter aus, das passt zu den 34 Milliarden.

Gebaut ist es aus einem Mamba-2-Transformer-Mischmodell mit Experten als Sprachteil, einem Transformer-Encoder für die Spracherkennung und einem Sortformer-Encoder für die Sprecher. Die Basis ist laut Karte Nemotron 3.5 Lightning 30B-A3B. Aus derselben Modellfamilie behandelt unser Beitrag zu Nemotron 3.5 Embed, Rerank und Parse die Retrieval-Modelle für RAG. Hier geht es dagegen um Audio, also Spracherkennung, Hardwarebedarf und Lizenz.

Zahlen und woher sie stammen

Alle Werte stehen so in der Modellkarte oder in den Dateilisten der Repositorys. Wir haben sie am 5. November 2026 über die Hugging-Face-Schnittstelle gelesen; auf unserer Hardware wurde nichts ausgeführt.

Zum Trainingsaudio schreibt die Karte, dass die erste Zahl jeden Datensatz einer Quelle einmal zählt. Dieselbe Aufnahme kann in mehreren Quellen vorkommen, es sind also keine bereinigten Aufnahmestunden. Granary v2 ist mit 463.062 Stunden in 48 Sprachen aus 16 Korpora deutlich kleiner als die Trainingsmischung.

Auf welcher Hardware es läuft

Die Karte nennt als Zielgröße eine H100 mit 80 Gigabyte und listet pro Karte die Genauigkeit und die Laufzeit. Aus der Tabelle der Karte, Stand 5. November 2026:

• H100 und H200: BF16 und FP8 mit vLLM und Transformers.
• A100 80 GB: BF16. L40S mit 48 GB: nur FP8.
• RTX PRO 6000 Blackwell Server Edition: BF16, FP8 und NVFP4, dazu GGML und SGLang-Omni.
• RTX 5090: ausschließlich NVFP4, mit vLLM, Transformers und GGML.
• Außerdem gelistet: B200, GB200, GB300, DGX Spark und Jetson Thor.

Auf eine RTX 5090 mit 32 Gigabyte passen die 67,5 Gigabyte BF16 nicht, und das FP8-Repository mit 34,7 Gigabyte ebenfalls nicht. Die NVFP4-Dateien kommen zusammen auf 21,6 Gigabyte und liegen damit unter der Kartengröße. Was Kontext und Zwischenspeicher zusätzlich brauchen, nennt die Karte für die RTX 5090 nicht, gemessen haben wir es nicht. Die FP8- und NVFP4-Repositorys sind öffentlich abrufbar (Schnittstelle am 5. November 2026: HTTP 200). Weitere Beiträge zu Grafikkarten und Speicherbedarf lokaler Modelle bündelt unser Themenkanal zu lokaler KI und GPU-Hardware.

Zum Größenvergleich: Unser Beitrag zu Parakeet Redux beschreibt ein auf 177,8 Megabyte gepresstes Erkennungsmodell von Moondream, abgeleitet aus Nvidias Parakeet TDT 0.6B v3. Wir haben es nur gelesen und nicht installiert. Gegen die 67,5 Gigabyte von Nemotron liegen rund zwei Größenordnungen Unterschied. Parakeet Redux erkennt 25 Sprachen, Nemotron 40 und kann zusätzlich übersetzen.

Was die Genauigkeit wert ist

Nvidia nennt in der Modellkarte die besten Ergebnisse unter den offenen Gewichten für mehrere Tests (Stand der Messung 12. Oktober 2026):

Die Werte im Text: Englisch, Mittel aus neun Tests der Open-ASR-Rangliste, 4,71 gegen 4,94 Prozent für Qwen3-ASR-1.7B. Lange Aufnahmen 10,98 gegen 13,37 für Parakeet-TDT-0.6B-v3. Sieben Sprachen der mehrsprachigen Rangliste 4,62 gegen 6,49. Mehrere Sprecher 15,80 gegen 16,83 (cpWER, also Wortfehler mit Sprecherzuordnung).

Vier Einschränkungen dazu:

1. Es sind Zahlen von Nvidia, wir haben sie nicht nachgemessen.
2. Beim englischen Vergleich steht ein Modell mit 34 Milliarden Parametern gegen eines mit 1,7 Milliarden. Der Abstand beträgt 0,23 Prozentpunkte.
3. Die Einträge der Open-ASR-Rangliste, die zur Modellkarte gehören, nennen in der Datei open_asr_leaderboard.yaml die Modellkarte selbst als Quelle. Die Rangliste haben wir nicht ausgelesen.
4. Artificial Analysis misst nach eigenem Verfahren. Die Tabelle der Seite führte am 5. November 2026 die Zeile Nemotron 3.5 Transcribe beim Anbieter DeepInfra mit 3,4 Prozent AA-WER. Der Begleittext derselben Seite nennt dagegen Voxtral Small von Mistral und Nemotron 3.5 Transcribe als beste offene Modelle mit je 2,8 Prozent. Die 3,4 Prozent gelten also nur für die DeepInfra-Zeile, und die Seite widerspricht sich hier selbst. Ein Vorsprung des Herstellers ist darin nicht zu erkennen, ein Rückstand auch nicht belegt.

Für Deutsch nennt die Karte 2,73 Prozent Wortfehler im FLEURS-Test und 2,98 Prozent in CoVoST2. In der Sprachmatrix steht Deutsch auf der höchsten Stufe („Leading“), auch für Übersetzung und mehrere Sprecher. Das ist die Einstufung des Herstellers. Eine Messung an unseren eigenen Aufnahmen gibt es nicht.

Beim Durchsatz nennt die Karte bis zu 2.238 Sekunden Audio pro Sekunde auf einer RTX PRO 6000 mit NVFP4 und Entwurfsmodell und 0,13 Sekunden für eine Aufnahme von 30 Sekunden. Nvidia schreibt dazu, dass diese Optimierungen des Nemotron-Transcribe-NIM noch nicht in der offenen Veröffentlichung stecken. Die mitgelieferte vLLM-Integration sei etwa halb so schnell.

Die Lizenz ist die eigentliche Nachricht

Die Lizenz steht im Lizenztext des Repositorys. OpenMDW-1.1 wurde nach Angaben auf openmdw.org von der Linux Foundation und der PyTorch Foundation eingeführt. Der Text erlaubt gebührenfrei jeden Umgang mit dem Modellmaterial ohne Einschränkung. Zwei Bedingungen stehen darin: Wer das Material weitergibt, legt den Lizenztext und die Urhebervermerke bei. Und wer eine Klage führt, nach der das Modellmaterial Patente oder Urheberrechte verletzt, verliert seine Rechte, außer die Klage war die Antwort auf eine Klage gegen ihn. Für die Ausgaben des Modells enthält die Lizenz keine Auflagen.

Wichtig ist, was fehlt: eine Umsatzgrenze. Die LFM Open License von Liquid AI zum Beispiel verbietet kommerzielle Nutzung ab 10 Millionen US-Dollar Jahresumsatz ohne Rücksprache, wie wir im Beitrag zu LFM3-Audio in llama.cpp am Lizenztext gelesen haben. Wer Spracherkennung in eine Dienstleistung einbaut, braucht bei OpenMDW-1.1 keine solche Klärung. Das ist keine Rechtsberatung. Der Lizenztext nennt außerdem Dokumentation und zugehörige Daten als Teil des Modellmaterials; was das für die Trainingsdaten bedeutet, haben wir nicht geprüft. Zum Nachtrainieren legt Nvidia Rezepte für NeMo Speech bei, laut Modellkarte.

Was geprüft ist und was fehlt

Gelesen haben wir die Modellkarte, den Lizenztext, die Dateilisten der Repositorys und die Artificial-Analysis-Seite. Nicht geprüft sind Genauigkeit, Durchsatz und Verhalten auf Deutsch an unserem Material, und das Modell läuft bei uns nicht. Ein sinnvoller Prüfauftrag hat zwei Schritte: erst klären, ob die NVFP4-Variante mit realem Kontext auf einer 32-Gigabyte-Karte startet, dann echte Besprechungsaufnahmen durch das Modell schicken und gegen die bisherige Lösung rechnen. Wer solche Modelle im eigenen Haus betreiben will, findet die Bausteine in unserer Leistung für firmeneigene KI-Systeme.

Zur Einordnung: Die Lizenz ist für jeden Betrieb ein Gewinn, der Sprachmodelle gewerblich einsetzt. Die Größe ist eine Hürde für kleine Karten. Die Genauigkeit ist nach Nvidias Zahlen stark. Unabhängig bestätigt ist sie nur teilweise: Artificial Analysis zeigt 3,4 Prozent für die DeepInfra-Zeile und nennt im Begleittext 2,8 Prozent gleichauf mit Voxtral Small.

Aktualisiert am 5. November 2026

Wir haben den Beitrag gegen die Quellen neu gelesen und korrigiert: Artificial Analysis zeigt für Nemotron in der Tabelle 3,4 Prozent (Zeile DeepInfra), im Begleittext der Seite aber 2,8 Prozent gleichauf mit Voxtral Small; beides ist jetzt genannt, die zuerst behauptete Rangfolge ist entfernt. Die FP8- und NVFP4-Repositorys sind erreichbar, die Dateigröße der BF16-Gewichte ist in Gigabyte (67,5) statt Gibibyte angegeben, und die Aussagen zum 178-Megabyte-Modell, zur Lizenzklage und zu anderen Lizenzen sind richtiggestellt.

Weiterführende Quellen

• Hugging Face: NVIDIA-Nemotron-3.5-Transcribe-30B-A4B: Modellkarte mit Hardwaretabelle, Benchmarks und Sprachmatrix, gelesen am 5. November 2026
• Hugging Face: LICENSE im Repository: Text der OpenMDW-1.1-Lizenz
• Nvidia auf Hugging Face: Nemotron Transcribe und Granary: Beitrag vom 28. Oktober 2026 zur Datenpipeline
• Hugging Face: Granary v2: Datenkarte mit 463.062 Stunden in 48 Sprachen
• OpenMDW: Projektseite der Lizenz, Linux Foundation
• Artificial Analysis: Speech to Text: unabhängige Rangliste, gelesen am 5. November 2026
• Video: Es ist keines eingebunden, Grundlage sind ausschließlich die oben genannten Textquellen.