Altman und die 5 Prozent: Ist lokale KI Verschwendung von DRAM?

Sam Altman nennt es im Podcast Cheeky Pint (veröffentlicht am 29. Oktober 2026) eine schlechte Nutzung des knappen DRAM der Welt, wenn dieser in privaten Rechnern steckt und dort zu 5 Prozent der Zeit genutzt wird. Die Zahl nennt er ohne Beleg. Der Beitrag zeigt den Wortlaut, die Preislage laut anderen Quellen und was das Argument für eine eigene KI-Strecke bedeutet.

Lokale Inferenz heißt: Ein Sprachmodell läuft auf Rechnern, die dem Unternehmen gehören oder die es mietet, und Anfragen samt Daten bleiben im eigenen Netz. Die Alternative ist die Anfrage an die Cloud eines Anbieters, bei der pro Anfrage oder Token bezahlt wird und die Daten das Haus verlassen. Bei lokaler Inferenz wird die Hardware einmal gekauft, bei der Cloud wird die Rechenzeit laufend bezahlt.

Altman leitet OpenAI und verkauft Rechenzeit im Rechenzentrum. Wer abwägt, ob ein eigener Rechner für KI lohnt, sollte den Satz kennen und wissen, was er belegt und was nicht.

Grundlage dieses Beitrags

Quelle ist ein Podcast-Gespräch, das als Video und als Transcript vorliegt. Gesprächspartner ist John Collison, Mitgründer von Stripe. Die Folge 39 von Cheeky Pint ist am 29. Oktober 2026 erschienen und dauert 52:45 Minuten (Apple Podcasts: PT52M45S, YouTube: 3165 Sekunden). Wir haben das Transcript bei Cheeky Pint auf Substack gelesen und die Folge nicht angehört. Das Video liegt bei YouTube, die Folge steht auch bei Apple Podcasts. Alle Aussagen von Altman in diesem Beitrag stammen aus diesem Gespräch, die deutschen Zitate sind unsere Übersetzung.

Was Altman sagt

Im Kapitel „Compute“ (ab 00:25:17) spricht Collison die hohen Speicherpreise an. Altman sagt, viele Leute wollten lokale Inferenz und nähmen an, das Problem sei damit gelöst: Es werde offene Modelle geben, die liefen auf den eigenen Rechnern, und das Rechenzentrum werde nicht mehr gebraucht. Dann folgt die Stelle, um die es geht. Im Transcript lautet sie:

„But from a global allocation perspective, actually, it's quite terrible to have everybody have a bunch of the world's limited supply of DRAM sitting in their own computer. And, being used … 5% of the time. You want maximum utilization in the cloud if you're trying to deal with this very supply constrained environment.“

Sinngemäß auf Deutsch: Aus Sicht der globalen Verteilung sei es ziemlich schlecht, wenn jeder einen Teil des begrenzten DRAM-Vorrats der Welt im eigenen Rechner habe und dieser nur zu 5 Prozent der Zeit genutzt werde. In einem so knappen Umfeld wolle man die höchste Auslastung in der Cloud. Wo die 5 Prozent herkommen, sagt Altman nicht, und Collison fragt nicht nach. Wir stufen die Zahl deshalb als Schätzung ein.

Im selben Kapitel sagt Altman, die „unsichtbare Hand“ funktioniere gerade nicht. Speicherhersteller hätten lange Zeit 20 Milliarden Dollar investiert, um 19 Milliarden Dollar zu verdienen, und seien deshalb bei neuen Fabriken vorsichtig. Das ist seine Erklärung, kein gemessener Befund.

Gegen Ende, im Kapitel „Token pricing is fake“ (ab 00:49:27), geht es um etwas anderes als Preise unter Kosten. Altman nennt Tokens „a kind of fake unit“, weil Käufer zwischen einem kleinen Modell für 10 Cent pro Million Tokens und einem großen für 10 Dollar abwägen und die Länge der Gedankenkette einschätzen müsse. Das sei Denkaufwand ohne Mehrwert. Zur Kostendeckung der Preise äußert er sich in der Passage nicht.

Die Preislage laut anderen Quellen

Altman beschreibt die Knappheit, er misst sie nicht. Die folgenden Zahlen stammen von Dritten und sind nicht nachgemessen.

Die Zahlen belegen eine echte Verknappung, kommen aber aus zweiter Hand: Tom's Hardware beruft sich auf CTEE, TrendForce News auf einen Bericht der Commercial Times. Ob beide dieselbe Quelle meinen, haben wir nicht geprüft, und die Originale haben wir nicht gelesen. Die 171 Prozent im Beitrag von Data Centre Review haben kein Messdatum und können dieselbe Ausgangszahl sein, sie gelten hier nicht als zweite unabhängige Messung. Alle Werte sind US- oder Taiwan-Marktdaten. Preise für den Einkauf in Österreich oder Deutschland haben wir nicht erhoben.

Zur Ursache schreibt Data Centre Review, die größten Hersteller lenkten begrenzte Fertigung von Standard-DRAM auf Hochleistungsspeicher (HBM) für KI-Beschleuniger um. Der Beitrag rechnet bis Ende 2026 eher mit weiteren Preisanstiegen und längeren Lieferzeiten als mit Entspannung. TrendForce News beschreibt für das vierte Quartal 2026 einen langsameren Anstieg, begründet mit höherer Vergleichsbasis, schwächerer Kaufkraft am Endmarkt und Preisdeckeln in Langfristverträgen.

Wo das Argument aufhört

Rechnerisch ist der Gedanke nachvollziehbar: Ein Rechner, der 95 Prozent der Zeit leer läuft, nutzt seinen Speicher schlecht. Altman argumentiert damit über die Verteilung von Hardware in der Welt. Ein einzelnes Unternehmen entscheidet nach anderen Fragen.

Wer einen Rechner gekauft hat, für den ist die Auslastung ein Kostenfaktor, den er selbst steuert. Die Rechenzeit in der Cloud dagegen kauft er bei jeder Anfrage neu. Welche Seite günstiger ist, hängt davon ab, was eine Anfrage auf der eigenen Maschine über deren Lebensdauer kostet und was sie beim Anbieter kosten würde. Dazu sagt Altman nichts. Das ist unsere Einordnung, keine Aussage aus dem Gespräch.

Dazu kommen Punkte, die in seinem Argument nicht vorkommen. Bei Datenhoheit sieht ein Modell im Rechenzentrum die Eingaben, bevor es antwortet. Die Antwortzeit hängt von der Leitung nach draußen ab. Und wer Rechenzeit beim Anbieter kauft, legt offen, was er rechnen lässt. Je nach Datenlage sind das Ausschlusskriterien oder Posten in der Kalkulation. Das Auslastungsargument bestreitet sie nicht, es behandelt sie nur nicht.

Dass Speicher bei lokaler Inferenz ein Engpass sein kann, zeigt eine Messung auf unserem Host kipc5090: Wie DRAM-Bandbreite einen Host mit vier RTX 5090 bremst. Wie sich Token-Preise und GPU-Mieten auseinanderentwickeln, steht in a16z-Zahlen zu fallenden Token-Preisen und teuren GPU-Mieten. Weitere Beiträge sammelt das Thema Lokale KI und GPU-Hardware. Wer eine eigene Inferenzstrecke plant, findet unter unseren Leistungen rund um KI im eigenen Haus den Einstieg.

Praktisch heißt das: Die eigene Auslastung lässt sich messen, indem die Strecke Anfragen und Tokens pro Tag protokolliert. Diesen Wert sollte gegen die Cloud-Rechnung halten, wer entscheidet, bevor er Altmans 5 Prozent für den eigenen Fall übernimmt.

Korrektur vom 05.11.2026

Die erste Fassung hatte Fehler, die wir hier korrigiert haben. Das Kapitel „Token pricing is fake“ war falsch wiedergegeben: Altman kritisiert Tokens als Maßeinheit, er sagt dort nichts über Preise unter Kosten. Die 171,8 Prozent stammen aus Vertragspreisen laut CTEE, nicht aus einem „Preisindex Typically AI“. Die Flash-Zahl aus einem Wall-Street-Journal-Bericht (hinter Bezahlschranke) und die Samsung-Gewinnmeldung konnten wir nicht an der Quelle prüfen und haben sie entfernt. Aussagen über eine eigene Erfassung von Token-Kosten bei uns hatten keine Messung hinter sich und sind gestrichen. Neu ist die Prognose von TrendForce News zu den Quartalspreisen.

Weiterführende Quellen

• Cheeky Pint, Why Sam Altman is against a single superintelligence: Transcript und Kapitelmarken, 29. Oktober 2026
• YouTube, dieselbe Folge als Video, Kanal Cheeky Pint
• Apple Podcasts, Folgenseite mit Dauer und Veröffentlichungszeit
• Tom's Hardware, DRAM prices skyrocket 171% year-over-year, 4. November 2025
• Data Centre Review, Is the AI boom running into a memory wall?, 13. Mai 2026
• TrendForce News, DRAM prices seen rising 20% QoQ in 4Q26, 20. Oktober 2026