Entscheiden, wann Ihre GPU arbeitet
Verfügbarkeitsfenster, Leistungslimits, VRAM, das Sie für sich behalten, und welche Modelle bedient werden — von der Maschine oder vom Dashboard aus, beide Seiten synchron.
Die Frage, die entscheidet, ob jemand eine GPU verbunden lässt, ist nicht „wie viel zahlt es" — sondern „was tut sie, wenn ich meinen Rechner brauche, und was macht sie mit meiner Stromrechnung". Beides sind Einstellungen, und Sie können sie von beiden Enden ändern.
Die zwei Orte
$ mahout config show # aktuelle Werte, und woher sie kommen
$ mahout config keys # jede Einstellung, mit Erklärung
$ mahout config set pause_on_fullscreen=false
$ mahout config set max_power_watts=250 disk_quota_bytes=500GB
Oder im Dashboard, auf der Zeile der Maschine. Dasselbe Dokument, dieselben Werte, in beide Richtungen.
Was Sie entscheiden können
Verfügbarkeitsfenster
Leer heißt immer verfügbar — der Standard. Geben Sie einen Zeitplan, nimmt die Maschine Arbeit nur in diesen Stunden:
$ mahout config set windows='[{"cron":"0 22 * * 1-5","duration_minutes":540}]'
Lies: Start um 22 Uhr an Wochentagen, neun Stunden lang. Im Dashboard ist dasselbe eine Zeile —
0 22 * * 1-5 for 540m — und es bleibt bewusst ein Cron-Ausdruck statt eines
Tage-Pickers, damit beide Seiten den Zeitplan identisch beschreiben. Ein Widget, das aus
denselben Klicks eine leicht andere Bedeutung erzeugte, wäre schlimmer als etwas Syntax.
Über Nacht ist der offensichtliche Fall: auf vielen Tarifen billigerer Strom, und niemand will die Lüfter hören, während er im Raum ist.
Ein Leistungslimit
max_power_watts hält die Karte unter ihrem eigenen Limit. Niedriger ist kühler,
leiser und billiger — und langsamer; und da Sie je produziertem Token bezahlt werden, heißt
langsamer weniger. Ein echter Tausch, deshalb gehört er Ihnen und nicht uns. Leer = der
Standard der Karte.
VRAM, das Sie behalten
vram_reserve_bytes wird der Engine vorenthalten, für alles andere, was Sie auf der
Karte tun. Wer einen Browser mit vierzig Tabs und einen Videoeditor offen hält, für den ist ein
reserviertes Gigabyte oder zwei der Unterschied zwischen flüssigem und ruckelndem Desktop.
Welche Modelle, und wie viel Platte
models_allowed beschränkt die Maschine auf bestimmte Modell-IDs; leer — die übliche
Antwort — heißt alles, wofür die Karte
qualifiziert ist.
disk_quota_bytes ist das Cache-Budget für Gewichte; ein größerer Cache heißt
weniger erneute Downloads, wenn die Arbeit zwischen Modellen wandert.
Die Pause für Sie
pause_on_user_activity und pause_on_fullscreen sind standardmäßig an:
Arbeit stoppt Sekunden nach einem Tastendruck, und solange ein Spiel oder eine
Vollbildanwendung läuft. Sie müssen nicht daran denken. Siehe
Ihre Maschine bleibt Ihre für den Rest unter Ihrer
Kontrolle.
Warum beide Seiten schreiben dürfen
Weil beide real sind. Mal sitzen Sie an der Maschine, mal am Telefon, und ein System, in dem eine Seite nur lesen darf, ist eines, in dem Sie sich am Ende in Ihren eigenen Desktop einloggen, um etwas abzuschalten.
Zwei Schreiber brauchen eine Regel, und unsere lautet: niemandes Änderung verschwindet unangekündigt. Jedes Speichern nennt die Version, die es bearbeitet hat. War die andere Seite schneller, wird das Speichern abgelehnt und Sie sehen den tatsächlichen Stand, um Ihre Änderung darauf neu zu setzen. Die Alternative — letzter Schreiber gewinnt — verliert still eine Änderung, wann immer der Agent eine veraltete Kopie eine Sekunde nach Ihrem Klick synchronisiert, und Sie würden es nie erfahren.
CLI und Dashboard zeigen beide, woher die letzte akzeptierte Änderung kam: „hat das gegriffen" ist auf einen Blick beantwortbar.
Eine ehrliche Einschränkung: Fenster werden heute gespeichert, synchronisiert und angezeigt; die Auswertung durch den Agenten landet im nächsten Release. Alles andere auf dieser Seite gilt jetzt.
Verwandt
Model catalogue · Download mahout · How the whole system works · Blog