Wir haben aufgehört, Ihre Einnahmen zu projizieren — wir messen sie
Jeder Marktplatz für GPU-Zeit zeigt Ihnen eine Zahl, bevor Sie überhaupt ein Konto haben. „Bis zu 180 $ im Monat." „Verdienen Sie im Schlaf." Die Zahl ist echt in dem Sinne, dass irgendeine Karte, irgendwo, unter irgendwelchen Bedingungen sie produziert hat.
Wir haben diese Seite auch gebaut. Dann haben wir eine echte Karte gebenchmarkt und die Seite weggeworfen.
Die Zahl, die die Gewohnheit brach
Eine RX 7900 XTX, Qwen3.8 27B, auf unserem eigenen gepinnten Engine-Build: 7,8 Token pro Sekunde. Gebatcht über vier gleichzeitige Anfragen: 8,8. Zu unserem Startpreis sind das für den Host unter zwei Cent pro Stunde — gegen ungefähr zehn Cent belgischen Strom.
Negativ. Auf dem Flaggschiff-Modell, auf einer Karte nahe der Spitze dessen, was Verbraucher kaufen.
Wir hätten den Rechner trotzdem ausliefern können — er lügt ja nicht direkt, es ist nur eine andere Karte unter anderen Annahmen. Stattdessen haben wir geändert, was das Produkt sagen darf.
Geschätzt, qualifiziert, fehlgeschlagen
Jedes Modell auf einer Maschine steht jetzt in einem von drei Zuständen, und die Wörter tragen Gewicht:
- geschätzt — der Katalog glaubt, dieser Build passt auf Ihre Karte. Genug, um zu entscheiden, ob sich ein 15-GB-Download lohnt. Nie genug, um Geld zu beziffern.
- qualifiziert — mahout hat ihn auf Ihrer Maschine geladen und gemessen. Dekodierrate, Zeit bis zum ersten Token, in eine Quittung signiert.
- fehlgeschlagen — wir haben es versucht und es ging nicht, mit Begründung. Eine stille Lücke sieht aus wie ein Bug; ein benannter Fehlschlag sieht aus wie ein ehrlicher Agent.
Nur eine qualifizierte Zeile produziert einen Eurobetrag, und die Formel steht auf der Seite:
€/hour while serving = measured tok/s × 3600 ÷ 1e6 × output €/Mtok × 0.8
Pro Stunde, in der bedient wird — nie pro Monat. Eine Monatszahl setzt versprochene Nachfrage voraus, und Nachfrage können wir nicht versprechen. Wenn es keine Arbeit gibt, sollte ein ehrliches Dashboard genau das zeigen, keine Projektion.
Was es uns gekostet hat
Eine weniger schöne Startseite, und ein Gespräch, das wir jetzt führen müssen: Zu heutigen Preisen, auf dem heutigen Engine-Build, verliert ein Host mit einem 27B Geld. Das ist keine bequeme Sache zum Veröffentlichen.
Es ist auch der Grund, warum wir den Fix gefunden haben. Beim Graben, warum die Zahl so schlecht war, tauchte ein 3×-Unterschied auf zwischen unserem gepinnten Engine-Binary und einem auf der Maschine kompilierten — gleiches Modell, gleiche Flags, gleiche Karte. Ein generischer Upstream-Build kostete jeden Host drei Viertel seiner Einnahmen. Wir hätten nie gesucht, wenn das Dashboard die 4090 von jemand anderem zitiert hätte.
Die Hebel, der Reihe nach
- Bessere Engine-Binaries. 3×, gemessen, und mit Abstand der größte Hebel.
- Der Preis. Jetzt ohne Release vom Operator-Dashboard aus änderbar — genau damit er sich an dem Tag bewegen kann, an dem die Arithmetik es verlangt.
- Echtes Batching. Continuous Batching bringt auf dieser Engine ×1,1 bei einem 27B und ×1,7 bei einem 12B — nicht die ×15 aus der Datacenter-Literatur. Die Workstation-Stufe ist der Ort, wo sich das ändert.
Bis das landet, wird Ihr Dashboard weiter kleine Zahlen zeigen — weil es Ihre Zahlen sind. Wir verlieren lieber den Host, der eine Fantasie wollte, als ihn sechs Wochen zu halten und wütend zu verlieren.
Was Ihre GPU wirklich verdient · Was eine Quittung beweist · Messen Sie Ihre eigene Karte
Read next
a GPU died mid-sentence. the sentence finished.
Consumer hardware disappears without notice — someone sits down at their PC, a breaker trips, Wi-Fi drops. Our streams now survive that: another machine picks the answer up mid-word, and the dead segment is billed to nobody.
one model, every card: how a 27b runs on 8 gb
Qwen3.8 27B ships in five builds, from Q5_K_M on a 24 GB card down to IQ2_XXS on 8 GB. Why we split models from builds, what quantization actually costs, and how a quantized KV cache doubled our context overnight.