Olares One im Ersteindruck: KI-Mini-PC mit 24 statt 32 GB VRAM

Der Olares One ist ein Mini-PC für lokale KI, den Olares im Dezember 2025 über Kickstarter angeboten hat. In Caschys Ersteindruck vom 24. Oktober 2026 ist er „zwiegespalten". Neu ist nur der Handelsverkauf, die Technik ist seit November 2025 bekannt. An dem Gerät lässt sich aber gut zeigen, was 8 GB weniger Videospeicher bei lokalen Sprachmodellen ausmachen.

Im Text steht bei jeder Zahl, woher sie kommt. Verifiziert heißt, wir haben mindestens zwei unabhängige Quellen gelesen. Abgeleitet bezeichnet unsere Rechnung, Herstellerangabe einen Wert, den niemand unabhängig geprüft hat.

Was drinsteckt

Die Grafikkarte ist eine RTX 5090 Mobile mit 24 GB GDDR7. Caschy schreibt dazu: „Das ist die Notebook-Variante, keine Desktop-Karte mit 32 GB." Notebookcheck bestätigt das (verifiziert). Nvidia gibt für die Laptop-Karte 95 bis 150 Watt Verlustleistung an, die Hersteller legen den Wert selbst fest. Olares nennt im Shop 95 Watt im Silent-Modus und 175 Watt im Performance-Modus (Herstellerangabe). Die Desktop-Karte hat laut Nvidia 32 GB auf einem 512-Bit-Bus und 575 Watt.

Der Rest laut Shop (Herstellerangabe, RAM und SSD bestätigt auch Caschy): Core Ultra 9 275HX mit 24 Kernen, 96 GB DDR5-5600, 2 TB NVMe, Thunderbolt 5, Wi-Fi 7, Netzteil mit 330 Watt, 2,15 kg. Zum Betriebssystem: Olares OS ist Open Source unter AGPL-3.0, setzt auf Kubernetes und lässt sich laut GitHub-Projekt auch auf Ubuntu 22.04 bis 25.04 oder Debian 12/13 per Skript installieren. Caschy beschreibt die Einrichtung über die LarePass-App und Tailscale. Ob Windows direkt läuft, ist widersprüchlich: Der Shop spricht von einer Windows-VM per RDP, Notebookcheck von Windows oder Linux als Betriebssystem. Das ist ungeklärt.

Der Videospeicher entscheidet, welche Modelle laufen

Bei lokalen Modellen begrenzt der VRAM, was überhaupt startet. Notebookcheck schrieb im November 2025, Kunden müssten „größere Modelle komplett ignorieren" oder sich mit quantisierten Versionen begnügen. Wir haben nachgerechnet, wie das für ein Modell aussieht, das wir selbst betreiben.

Qwen3.8-27B in der Quantisierung IQ4_XS ist 17,03 GB groß, das sind 15,9 GiB. Bei vLLM mit FP8 haben wir in unserem Post Qwen3.8 auf der RTX 5090 19,41 GiB für die Gewichte und 6,47 GiB für 184.320 Token Kontextspeicher gemessen, also 36,8 KiB je Token. Mit diesem Wert und einem angenommenen Overhead von 1,5 GiB für CUDA und Anzeige (nicht gemessen) ergibt sich bei 128.000 Token Kontext:

Die 4-Bit-Variante passt mit 21,9 GiB unter die 24 GB, die FP8-Variante mit 25,4 GiB nicht. Bleibt man bei FP8, reichen die 3,1 GiB nach Abzug der Gewichte und des Overheads für rund 85.000 Token. Bei der 4-Bit-Datei sind es etwa 165.000 bis 187.000 Token, wenn man den Vision-Projektor weglässt. Auf einer 32-GB-Karte haben wir dasselbe Modell mit 262.144 Token Kontext gemessen: 120 bis 146 Token pro Sekunde im Einzelstrom mit spekulativem Dekodieren in Tiefe 4 (Tempo-Post vom 19. Oktober).

Als Faustregel nennt der Hersteller 0,5 Byte je Parameter bei 4 Bit plus 20 bis 30 Prozent für den Kontext (Herstellerangabe). Das ergibt auf 24 GiB etwa 38 Milliarden Parameter dicht, auf 32 GiB etwa 51 Milliarden. Ein MoE-Modell wie Flash-Next mit 125 Milliarden Parametern braucht in der kleinsten Quantisierung, die wir gemessen haben, 90,9 GiB (Messreihe vom 29. August 2026) und passt auf keine einzelne dieser Karten.

Tempo: Was der Hersteller misst und was die Bandbreite zulässt

Olares hat im Blog vom 4. November 2025 Werte veröffentlicht (Herstellerangabe, nicht unabhängig): Qwen3-30B-A3B in AWQ-4-Bit erreicht auf vLLM 157,17 Token pro Sekunde bei einer Anfrage und 81,26 bei acht. Gemma3-27B kommt auf 38,02 und 28,81, GPT-OSS-20B auf 139,00 und 72,20.

Wichtig ist der Ausreißer. GPT-OSS-120B passt nicht in 24 GB, die Schichten wandern in den Arbeitsspeicher, und llama.cpp fällt laut Hersteller von 36,16 auf 4,44 Token pro Sekunde, wenn acht Anfragen gleichzeitig laufen. Das Auslagern in die 96 GB RAM ist deshalb eine Klippe, keine Reserve.

Eine Obergrenze für ein dichtes Modell lässt sich aus der Speicherbandbreite ableiten. Die Laptop-Karte hat 256 Bit. Mit 28 Gbit/s je Pin sind das 896 GB/s (abgeleitet). Pro generiertem Token müssen alle 17,03 GB Gewichte einmal gelesen werden, das ergibt höchstens etwa 53 Token pro Sekunde ohne spekulatives Dekodieren (abgeleitet). Der Herstellerwert für Gemma3-27B mit rund 38 liegt in derselben Größenordnung. Mehr als 53 gibt es bei einem dichten 27B-Modell nur mit Spekulation oder kleinerer Quantisierung. Dünn besetzte Modelle mit etwa 3 Milliarden aktiven Parametern wie Qwen3-30B-A3B passen bei 4 Bit in etwa 15 GB und sind deshalb dort am schnellsten.

Preis und Bedingungen

Beim Preis stehen vier Werte nebeneinander, aus verschiedenen Zeitpunkten und Währungen: 2.490 Euro als Kickstarter-Preis laut Notebookcheck vom 9. Dezember 2025, 2.999 US-Dollar laut Notebookcheck und Olares-Blog vom November 2025, im Shop aktuell 4.999 US-Dollar, und „rund 4.550 Euro" bei Caschy am 24. Oktober 2026. Der Preis hat sich seit der Kampagne also fast verdoppelt, und er sollte am Kauftag geprüft werden.

Der Shop nennt „Ships within 24 Hours" und in der Versandrichtlinie zwei Werktage, die Garantie beträgt zwei Jahre ab Lieferung (Herstellerangabe). In den Bedingungen steht, Verkäufe seien final, daneben das 14-tägige EU-Widerrufsrecht und eine Meldefrist von sieben Tagen für Geräte, die defekt ankommen. Das passt nicht zusammen, und wir haben es nicht geklärt. Die Lautstärke (19 dB im Leerlauf, unter 39 dB unter Volllast) ist ebenfalls eine Herstellerangabe.

Was sich vor dem Kauf prüfen lässt

Wer ein bestimmtes Modell einplant, rechnet Dateigröße der Gewichte plus Kontextspeicher plus etwa 1,5 GiB Overhead gegen 24 GiB. Den Kontextspeicher je Token zeigt der vLLM-Startlog in der Zeile „GPU KV cache size", bei llama.cpp das Startprotokoll des eigenen Modells. Das Tempo misst man selbst, zum Beispiel mit llama-bench -m datei.gguf -p 512 -n 128, und nimmt keine Herstellertabelle. Liegt ein Zielmodell nach dem Auslagern bei etwa 10 Token pro Sekunde oder darunter, taugt es nicht als Arbeitsmodell. Die Rückgabe- und Widerrufsregeln lassen sich vor der Bestellung schriftlich beim Hersteller bestätigen. Weil Olares OS auf Ubuntu und Debian installierbar ist, bleibt die Software auch ohne die Box nutzbar.

Caschys Tests mit Messwerten stehen noch aus. Bis dahin ist der Olares One ein Gerät, dessen Hardware gut belegt und dessen Tempo nur vom Hersteller gemessen ist.

Weiterführende Quellen

• Caschy: Olares One, ein erster Eindruck vom lokalen KI-Rechner (24. Oktober 2026): Hardware, Einrichtung, Preis, Urteil
• Olares Shop: Olares One: Spezifikationen, Versand und Bedingungen (Herstellerangaben, undatiert)
• Olares Blog: Local AI Hardware Performance Benchmarking (4. November 2025): Herstellerbenchmark
• Notebookcheck: Mini-PC with RTX 5090 Mobile GPU (10. November 2025): Daten, VRAM-Einschätzung
• Notebookcheck: Olares One mit RTX 5090 und Core Ultra 9 275HX (9. Dezember 2025): mobile GPU, Euro-Preis
• Notebookcheck: Nvidia enthüllt GeForce RTX 5090, 5080 und 5070 Laptop GPUs (7. Januar 2025): 95 bis 150 Watt
• Nvidia: GeForce RTX 5090: 32 GB, 512 Bit, 575 Watt
• GitHub: beclab/Olares: Lizenz und Installationsvoraussetzungen
• DB Tech auf YouTube: Olares One: Run AI Locally + Self-Host Everything (14. November 2025): Video zu Software und Hardware
• Simple Icons: nvidia.svg: Logo, CC0
• Senn-tech: Qwen3.8 auf der RTX 5090 und Tempo lokaler LLMs: eigene Messungen für die Speicherrechnung