Precies bepalen wat je GPU bedient

Jouw kaart, jouw keuze. Jij bepaalt welke modellen deze machine bedient en in welke kwantisatie, en het netwerk volgt — zonder ticket en zonder op ons te wachten.

Twee keuzes, apart gehouden

Welke modellen je bedient, en hoe goed. Dat zijn verschillende vragen, dus verschillende instellingen: je kunt een kwaliteit vastzetten zonder je catalogus te versmallen, of andersom.

$ mahout config set models_allowed=qwen3.8-27b
$ mahout config set preferred_builds=qwen3.8-27b@ud_iq4_xs

Of dezelfde twee keuzes in je dashboard, op de rij van de machine: een vinkje per model, een keuzelijst per kwantisatie. Alleen builds die je kaart echt aankan worden aangeboden.

Negen manieren om één model te draaien

Qwen3.8 27B bestaat in negen builds, van 18,4 GiB tot 6,8 GiB. Een grotere antwoordt beter, een kleinere sneller. Op een kaart van 24 GB kun je de referentiegewichten draaien, of bewust IQ4_XS en meer verzoeken per uur bedienen. Beide zijn legitieme keuzes.

Tijdens bedrijf te wijzigen

De agent leest je instellingen elke minuut opnieuw. Wijzig de kwantisatie vanaf je telefoon en de machine lost de oude gewichten en laadt de nieuwe zelf — geen herstart, geen SSH. Wat je hebt ingesteld, is waar hij na een reboot naar terugkeert.

Een vastgezette keuze houden we aan

Zet je een build vast die je kaart niet aankan, dan bedienen we niet stiekem een kleinere. Het model vervalt en de agent zegt waarom. Je vroeg om een kwaliteit; een stille verlaging zou weken later opduiken als een onverklaarbare benchmark.

Wat je bedient is ook waarvoor je betaald wordt — zie wat je betaalt en wat een host verdient.