Zum Inhalt springen
senn-techsenn-tech
Zurück zum Blog
KI & Entwicklung
KI im Betrieb2026-11-04· Von Franz Senn

Ollama in 13 Beiträgen, nie mit Version: eine Messung

Wer in einem Bericht schreibt „Ollama schafft auf dieser Karte 4 Tokens pro Sekunde“, nennt eine Zahl ohne Bezugspunkt, solange die Version fehlt. Wir haben am 4. November 2026 nachgesehen, wie das in unseren eigenen Texten und auf unseren eigenen Servern aussieht. Das Ergebnis liegt bei uns, nicht beim Projekt.

Versionsangabe, kurz erklärt: Die Versionsangabe nennt zu einer Laufzeit wie Ollama oder vLLM die installierte Fassung, den Host und das Datum der Messung. Sie gehört zu jedem Messwert, weil beide Projekte alle paar Tage neue Fassungen veröffentlichen und sich Durchsatz, Modellunterstützung und Sicherheitslage zwischen zwei Fassungen ändern können. Ohne sie lässt sich eine Zahl später weder wiederholen noch einer Schwachstellenmeldung zuordnen.

Was in unseren eigenen Beiträgen steht

Am 4. November 2026 haben wir den Content-Baum des Blogs nach „Ollama“ durchsucht. 13 Beiträge seit dem 1. Februar 2026 erwähnen es, dazu zwei ältere von 2024 und 2025, die wir nicht mitzählen. Dieser Beitrag ist der 14. Kein einziger der 13 nennt eine Ollama-Version.

Meist steht Ollama in einer Aufzählung, etwa „vLLM, Ollama“ als Möglichkeit für eigene Modelle. Konkreter wird es in drei Beiträgen, und alle drei beschreiben fremde Anlagen:

  • Im Test des Asus Ascent QN10 steht als Zitat, Ollama und LM Studio liefen auf Snapdragon X(2) Elite nur auf der CPU. Das sagt der Tester im Video von Alex Ziskind vom 20.09.2026 (Video); wir haben das Gerät nicht selbst gemessen. Die Ollama-Version nennt das Zitat nicht.
  • Im Beitrag über Strata auf einer RX 6800 berichtet der Autor eines fremden Selbstversuchs, er sei im August mit Ollama bei 3 bis 4 Tokens pro Sekunde gelandet. Auch dort fehlt die Fassung.
  • Der Beitrag über den Violoop-Agenten nennt Ollama als Referenz in einem Herstellervergleich, ebenfalls ohne Fassung.

Gemeinsam ist den drei Fällen: Wir ordnen fremde Messungen ein, und fremde Messungen kommen selten mit Versionsstand.

Die Prüfung auf unserer Flotte

Gesucht wurde am 4. November 2026 per SSH, ohne Änderung an einem Rechner: Binary, Container-Image, laufende Dienste. Das ist eine eigene Prüfung, die wir hier nur zusammenfassen; die Rohausgaben stehen nicht im Beitrag.

Host (Rolle)Ollama-Fund am 04.11.2026Was dort rechnet
Gateway, Suche, RAGkein Binary, kein ContainerLiteLLM-Routing
Produktive Inferenz, 4 Kartenkein Binary, kein ContainervLLM 0.32.0, im Container gelesen
Einbettung und Neubewertungkein BinaryvLLM 0.30.0, in zwei Containern gelesen
Agenten- und Bauhostkein Binarykein Inferenzdienst
Mail-Gateway, Firmennetzkein Binary, kein Containerkeine Inferenz
Protokoll- und Alarmhostkein Binarykeine Inferenz

Eigene Messung, Einheit: gefundene Installationen je Host, Stand 04.11.2026. Auf keinem der sechs Hosts läuft Ollama. Wie unsere Strecke ohne Ollama aufgebaut ist, steht im Beitrag über die eigene KI-Strecke mit LiteLLM und vLLM.

Nebenbei zeigt die Prüfung, dass im selben Haus zwei vLLM-Stände laufen: 0.32.0 auf dem großen Rechner, 0.30.0 bei den kleinen Diensten. Gelesen wurde jeweils die Version, die der Container selbst meldet; das Image-Etikett haben wir ignoriert. Eine Schwachstellenmeldung mit Untergrenze lässt sich deshalb nur je Container beantworten.

Wie schnell die Projekte Fassungen veröffentlichen

Diese Zahlen stammen aus der GitHub-Schnittstelle der Projekte, abgefragt am 4. November 2026. Wir haben nur gezählt, die Software selbst haben wir dafür nicht gemessen.

ProjektZeitraumStabile FassungenVorabfassungenNeueste
Ollama (MIT-Lizenz)06.08. bis 04.11.2026342v0.40.14 vom 03.11.2026
vLLM06.08. bis 04.11.202671 Release-Candidate (v0.33.0rc3, 02.11.2026)v0.32.0 vom 18.10.2026

Beim Zählen gilt: vLLM markiert den Release-Candidate in der Schnittstelle nicht als Vorabfassung, wir haben ihn anhand des Namens herausgenommen. Bei Ollama liegen im Schnitt 2,6 Tage zwischen zwei stabilen Fassungen, die längste Lücke beträgt knapp neun Tage (05.09. bis 14.09.2026, v0.34.0 bis v0.34.1). Das Release v0.40.14 bringt 17 Dateien mit, darunter Pakete für Windows (x86-64 und ARM64), Linux mit ROCm für AMD und MLX-Varianten.

Ein weiteres Detail aus der Liste: Die Versionsnummern folgen nicht dem Kalender. v0.40.0 erschien am 25.09.2026, v0.35.0 erst am 28.09. und v0.35.1 am 29.09. Wer nur „neuere Zahl = neuere Fassung“ annimmt, liegt hier daneben. Auch deshalb gehört beim Notieren das Datum neben die Nummer.

Zur Einordnung noch eine offene Anfrage, auf die der Strata-Beitrag verweist: Das Ollama-Issue #18071 („Need to have qwen3.8-flash-next on Ollama cloud“) ist seit dem 27.08.2026 offen und hatte am 04.11.2026 einen Kommentar, vom 01.10. mit der Frage, ob sich nichts tue. Das Issue trägt die Labels „cloud“ und „model“, eine Antwort oder Zusage der Projektseite im Issue selbst war nicht zu sehen. Das ist ein Beispiel für eine Modellunterstützung, die sich zwischen zwei Fassungen ändern kann.

Was wir Betreibern empfehlen

Dies sind Empfehlungen und kein Bericht über unsere bestehenden Abläufe.

  1. Zu jedem Messwert gehören Host, Betriebssystem, Version und Datum, in derselben Zeile. Bei Ollama liefert ollama --version die Fassung; sie sollte im selben Terminal abgelesen werden wie die Messung.
  2. Bei Containern zählt die Version, die der laufende Container meldet. Das Image-Etikett ist ein Name, keine Messung.
  3. Wo keine eigene Messung möglich ist, steht im Text, dass die Zahl von fremder Hardware stammt, und welche Version der Fremde genannt hat. Fehlt sie, steht auch das im Text.
  4. Eine Schwachstellenmeldung mit Versionsuntergrenze wird pro Container geprüft, weil Dienste im selben Haus selten denselben Stand haben.

Unser Beitrag vLLM v0.33.0 und llama.cpp b12033 fragt dagegen, ab wann eine Fassung überhaupt vorliegt (Tag, Release, Image); hier geht es darum, welche Fassung auf unseren Rechnern lief und was wir bisher nicht dazugeschrieben haben. Unsere alten Beiträge ändern wir damit nicht rückwirkend; die Fassungen wurden damals nicht gemessen und lassen sich nicht nachtragen. Weitere Beiträge zum Betrieb lokaler Modelle sammelt das Thema KI im Betrieb. Wer seine KI-Strecke selbst führt und die Stände sauber dokumentieren will, findet den Rahmen dafür unter Corporate LLM.

Weiterführende Quellen

Fragen?
Welche Ollama-Version läuft bei euch?+

Keine. Die Prüfung vom 4. November 2026 auf sechs Hosts unserer Flotte hat auf keinem ein Ollama-Binary und keinen Container mit diesem Image gefunden. Die Inferenz läuft auf vLLM. Ollama taucht in unseren Texten dort auf, wo wir fremde Versuche einordnen.

Wie schnell veröffentlicht Ollama?+

Laut GitHub-Release-Liste, abgefragt am 4. November 2026: 34 stabile Fassungen und 2 Vorabfassungen in den letzten 90 Tagen, im Schnitt alle 2,6 Tage. Die längste Lücke zwischen zwei stabilen Fassungen liegt in diesem Fenster bei knapp neun Tagen. vLLM kommt im selben Zeitraum auf 7 Fassungen plus einen Release-Candidate.

Reicht es, das Installationsdatum zu notieren?+

Nein. Mit automatischen Updates läuft nach zwei Wochen eine andere Fassung als am ersten Tag, bei manuellen Updates weiß man nach drei Monaten nicht mehr, wann. Die Version gehört zum Messwert, das Installationsdatum ist nur Beiwerk.