vLLM v0.33.0 und llama.cpp b12033: Tag, Release und Image kommen nicht gleichzeitig

Am 1. November um 09:21 UTC hat vLLM den Tag v0.33.0 gesetzt. Das Docker-Image folgte am 2. November um 03:06 UTC, die Release Notes um 10:10 UTC, also 25 Stunden nach dem Tag. llama.cpp zeigt im selben Zeitraum ein anderes Muster: Der Build b12033 existiert nur als Git-Tag, sein Vorgänger b12032 hat ein vollständiges Release mit Download-Dateien. Alle Zeiten sind UTC und stammen aus der GitHub-API und der Docker-Hub-API, gemessen am 5. November 2026.

Kurz gefasst: Ein Release-Kanal besteht bei Inferenz-Software aus drei getrennten Artefakten: dem Git-Tag, der den Quellstand festlegt, dem GitHub-Release mit Änderungstext und Dateien, und dem Container-Image in einer Registry. Jedes entsteht zu eigener Zeit und kann fehlen. Für ein Upgrade braucht man alle drei und dazu eine Aussage, wie lange der Hersteller die Version pflegt.

Korrektur zur Erstfassung vom 2. November. Dort stand, v0.33.0 habe keine Release Notes. Das traf am Vormittag des 2. November zu und ist seit 10:10 UTC überholt. Ebenfalls ersetzt sind zwei Angaben, die sich nicht belegen ließen: eine Support-Klammer von drei Minor-Zweigen für vLLM (in der Dokumentation nicht zu finden) und die Aussage, llama.cpp habe keine offiziellen Images (die Docker-Doku des Projekts listet sie).

vLLM v0.33.0: drei Artefakte, drei Zeitpunkte

Maßeinheit: Zeitstempel in UTC. Messdatum 5. November 2026, Messträger: öffentliche GitHub- und Docker-Hub-API, abgefragt von einem Büro-Rechner. Die Zeiten sind Herstellerdaten, keine eigene Messung der Software.

Der Tag v0.33.0 und das Release-Objekt gehören zum selben Commit, tragen aber verschiedene Namen: Das Release heißt „v0.33.0“ und hängt am Tag v0.33.0rc3. Wer die Seite releases/tag/v0.33.0 aufruft, landet trotzdem auf den Notes. Die Release-Prozess-Doku des Projekts beschreibt den Ablauf anders: RC-Tags lösen die Builds aus, der finale Tag löse keinen Build aus und werde für Release Notes und Dateien verwendet (Originaltext: „used for Release notes and assets“). Beobachtet ist, dass die Notes am rc3-Tag hängen; eine Erklärung nennt das Projekt nicht.

Zum Vergleich der Kadenz: Die Doku nennt als Ziel „a regular release every 2 weeks“. Veröffentlicht wurden v0.26.0 am 27. Juli 2026 und v0.32.0 am 18. Oktober, sechs Minor-Schritte in 83 Tagen, im Schnitt 13,8 Tage. v0.33.0 kam am 2. November, 15 Tage nach v0.32.0. Grundlage sind die Veröffentlichungsdaten der Release-Objekte (GitHub-API, 5. November 2026).

Eine Zusage, wie lange eine Minor-Version gepflegt wird, habe ich in der vLLM-Doku nicht gefunden. Die Deprecation Policy bindet Abkündigungen an Minor-Versionen; die Release-Doku sagt, Abwärtskompatibilität gelte nur für „a limited number of minor releases“, ohne Zahl. Bei zwei Wochen Takt ist das praktisch die Frage, wie lange man eine Version ohne Fixes betreiben will.

llama.cpp: Builds ohne Release sind der Normalfall

Der Build b12033 geht auf einen Commit vom 1. November, 17:23 UTC zurück. Sein Vorgänger b12032 hat ein Release, veröffentlicht um 09:00 UTC, mit 38 Dateien: Binaries für CUDA 12.8 und 13.4, Vulkan, ROCm 10.0, SYCL, OpenVINO und weitere, dazu einen Verweis auf Attestationen. b12034 folgte am 2. November um 08:02 UTC wieder mit Release.

Das ist bei llama.cpp keine Panne. Gezählt in der Release-Liste vom 5. November 2026, Build-Nummern b12066 bis b12125 (60 Nummern, 3. bis 5. November): 39 haben ein Release, 21 nicht. In diesen gut 45 Stunden entstanden rund 31 Builds am Tag. Wer nur die Release-Seite liest, sieht also einen Teil der Builds nicht.

Die Container-Images sind ein eigener Kanal. Die Docker-Doku von llama.cpp führt Images auf ghcr.io/ggml-org/llama.cpp in den Varianten full, light und server, dazu CUDA 12 und 13, ROCm, Vulkan, SYCL und OpenVINO. Eine Support-Zusage für einzelne Builds gibt es nicht: Die Versionen laufen täglich weiter, eine Langzeitlinie nennt das Projekt nicht.

Was das für unseren Betrieb heißt

Wir betreiben vLLM 0.32.0 seit dem 18. Oktober auf dem Inferenz-Host mit vier RTX 5090, als Hybrid-Image vllm-flashnext-hybrid:v032-nvfp4port (vLLM-0.32.0-Image plus eigener Patch für NVFP4-KV und MTP; Stand 18.10., Details im Beitrag zu 0.32 mit MTP und NVFP4). Jede neue Minor-Version heißt deshalb: Patch prüfen, Wiedergabe-Test fahren. Dieser Beitrag behandelt nur den Veröffentlichungsweg. Welche Änderungen in 0.33.0 stecken und warum die CUDA-12.9-Images wegfallen, steht in vLLM 0.33.0 ohne CUDA 12.9.

Beim llama.cpp-Quellbau liegt unser Stand bei b10684 plus eigene Patches (eigene Messung, Quellbaum auf dem Inferenz-Host, Stand Ende August). Der Realtime-Endpunkt /v1/realtime kam mit Pull Request #31269, gemergt am 28. Oktober; Builds ab b11960 tragen ihn laut unserem LFM3-Audio-Beitrag. Das sind gut 1.200 Builds nach unserem Stand. Der Rückstand ist ein Befund: Ein gepinnter Baum verpasst Funktionen, die im täglichen Build längst stehen.

Drei Regeln, die wir daraus ziehen:

1. Vor einem Upgrade prüfen, welches der drei Artefakte vorliegt. Für vLLM v0.33.0 lag das Image sieben Stunden vor den Notes.
2. Für llama.cpp den Quellstand pinnen und die Build-Nummer notieren, nicht auf die Release-Seite warten.
3. Den Update-Takt selbst festlegen, weil keines der beiden Projekte eine Pflegezeit zusagt. Wie wir das für Kunden planen, steht auf der Seite Eigenbetrieb von Sprachmodellen; mehr Beiträge dieser Art sammelt das Thema KI im Betrieb.

Offen

Nicht geprüft habe ich, ob die Notes in der Zwischenzeit nachträglich verändert wurden: Die 37.794 Zeichen sind der Stand vom 5. November. Der Quellbaum-Stand b10684 stammt aus unserer Messung vom Ende August und wurde für diese Aktualisierung nicht neu abgelesen.

Weiterführende Quellen

• vLLM: Release v0.33.0 - GitHub-Release mit den Notes, veröffentlicht am 2. November 2026
• vLLM: Release-Prozess - Kadenzziel und Rolle der Tags
• vLLM-Image-Tags auf Docker Hub - Tag v0.33.0 vom 2. November 2026
• llama.cpp: Releases - Release-Liste mit den Lücken
• llama.cpp: Docker-Doku - offizielle Images auf ghcr.io
• llama.cpp: Pull Request #31269 - /v1/realtime, gemergt am 28. Oktober 2026