un prix ne devrait pas avoir besoin d'un ingénieur
Pendant l'essentiel de ce projet, changer le prix d'un modèle voulait dire éditer du JSON, ouvrir une merge request, attendre la CI, et jouer un job de déploiement. Parfaitement sûr. Complètement faux.
Le prix est le nombre qui bouge le plus vite dans une place de marché. Quand une mesure montre que les hôtes gagnent moins que leur électricité, le prix doit bouger l'après-midi même — pas après une fenêtre de release.
deux couches, exprès
La grille livrée est toujours là. C'est ce qu'un environnement neuf prend au départ, ce que lisent les tests de cohérence, ce qu'un déploiement transporte. Ce qui a changé : une surcharge opérateur la bat désormais, posée depuis le dashboard et appliquée au tout prochain job.
Il y a un reset à côté de chaque prix surchargé. La sortie d'une mauvaise édition est un clic vers ce qui a été livré — c'est la propriété qui rend acceptable d'éditer des prix dans un formulaire web.
les garde-fous sont la partie intéressante
Un formulaire de prix qui accepte n'importe quoi est un passif. Les invariants que nos tests de build imposent sont imposés à nouveau à l'écriture, parce que ce chemin contourne le fichier :
- Un modèle qui n'existe pas ne peut pas être tarifé. Un id sans entrée de catalogue est un modèle que les clients peuvent appeler et qu'aucun hôte ne peut servir — nous avons livré exactement ce bug une fois, et les tests existent à cause de lui.
- La sortie ne peut jamais être moins chère que l'entrée. Presque toujours une coquille, et une coquille chère.
- Rien n'est gratuit. Un zéro ferait travailler les hôtes pour rien.
- Le contexte promis ne peut pas dépasser ce que sert le build le moins capable. Un client ne choisit pas quel hôte lui répond, donc la promesse doit tenir sur le plus petit.
Le formulaire montre ces limites au lieu de les faire découvrir : chaque ligne affiche la taille du modèle, la plus petite carte qui peut le servir, et le plafond de contexte qu'impose le build le moins capable. Il prévisualise aussi ce qu'un hôte mesurant 60 tokens par seconde gagnerait au prix que vous tapez — parce que c'est le chiffre qui décide si quelqu'un le servira.
et c'est écrit, qui l'a fait
Chaque changement enregistre l'opérateur et l'horodatage. Le prix déplace de l'argent entre nous et les hôtes ; « qui a mis 0,75, et quand » doit avoir une réponse.
Et si la base est injoignable, les prix livrés continuent de servir. Une résolution de prix ne doit jamais être la raison pour laquelle un job échoue.
Ce que vous payez, et pourquoi ça bouge · Prix actuels · Ce que ça paie un hôte
Read next
a GPU died mid-sentence. the sentence finished.
Consumer hardware disappears without notice — someone sits down at their PC, a breaker trips, Wi-Fi drops. Our streams now survive that: another machine picks the answer up mid-word, and the dead segment is billed to nobody.
one model, every card: how a 27b runs on 8 gb
Qwen3.8 27B ships in five builds, from Q5_K_M on a 24 GB card down to IQ2_XXS on 8 GB. Why we split models from builds, what quantization actually costs, and how a quantized KV cache doubled our context overnight.