Décider quand votre GPU travaille
Fenêtres de disponibilité, plafond de puissance, VRAM gardée pour vous, et quels modèles servir — réglés depuis la machine ou le dashboard, les deux côtés restant synchronisés.
La question qui décide si quelqu'un laisse un GPU connecté n'est pas « combien ça paie » — c'est « que fait-il quand je veux utiliser mon ordinateur, et que fait-il à ma facture d'électricité ». Les deux sont des réglages, et vous pouvez les changer des deux côtés.
Les deux endroits
$ mahout config show # les valeurs actuelles, et d'où elles viennent
$ mahout config keys # chaque réglage, avec une explication
$ mahout config set pause_on_fullscreen=false
$ mahout config set max_power_watts=250 disk_quota_bytes=500GB
Ou dans le dashboard, sur la ligne de la machine. Même document, mêmes valeurs, dans les deux sens.
Ce que vous pouvez décider
Fenêtres de disponibilité
Vide veut dire toujours disponible — le défaut. Donnez-lui un horaire et la machine ne prend du travail que dans ces heures :
$ mahout config set windows='[{"cron":"0 22 * * 1-5","duration_minutes":540}]'
Lire : démarre à 22 h en semaine, tourne neuf heures. Dans le dashboard la même chose tient en
une ligne — 0 22 * * 1-5 for 540m — et c'est délibérément resté une expression cron
plutôt qu'un sélecteur de jours, pour que les deux côtés décrivent l'horaire à l'identique. Un
widget qui produirait un sens légèrement différent des mêmes clics serait pire qu'un peu de
syntaxe.
La nuit est l'usage évident : électricité moins chère sur beaucoup de tarifs, et personne ne veut des ventilateurs à fond quand il est dans la pièce.
Un plafond de puissance
max_power_watts tient la carte sous sa propre limite. Plus bas, c'est plus frais,
plus silencieux et moins cher — et plus lent ; et comme vous êtes payé au token produit, plus
lent veut dire moins. Un vrai arbitrage, c'est pourquoi il est à vous plutôt qu'à nous. Vide =
le défaut de la carte.
La VRAM que vous gardez
vram_reserve_bytes est retenue au moteur pour tout ce que vous faites d'autre sur
cette carte. Si vous gardez un navigateur à quarante onglets et un éditeur vidéo ouverts,
réserver deux gigas fait la différence entre un bureau fluide et un bureau qui saccade.
Quels modèles, et combien de disque
models_allowed restreint la machine à des identifiants précis ; vide — la réponse
habituelle — veut dire tout ce pour quoi la carte est
qualifiée. disk_quota_bytes est le
budget de cache pour les poids ; un cache plus grand, ce sont moins de re-téléchargements quand
le travail se déplace entre modèles.
La pause pour vous
pause_on_user_activity et pause_on_fullscreen sont activés par
défaut : le travail s'arrête dans les secondes qui suivent une frappe, et pendant tout jeu ou
application plein écran. Vous n'avez pas à y penser. Voir
garder votre machine à vous pour le reste de ce qui est
sous votre contrôle.
Pourquoi les deux côtés peuvent écrire
Parce que les deux sont réels. Vous êtes parfois devant la machine et parfois sur votre téléphone, et un système où l'un des deux est en lecture seule est un système où vous finissez par SSH-er dans votre propre desktop pour éteindre quelque chose.
Deux écrivains exigent une règle, et la nôtre est que le changement de personne ne disparaît sans qu'on le lui dise. Chaque sauvegarde dit quelle version des réglages elle éditait. Si l'autre côté a changé quelque chose d'abord, la sauvegarde est refusée et on vous montre l'état réel, pour refaire votre changement par-dessus. L'alternative — le dernier qui écrit gagne — perd en silence une édition chaque fois que l'agent synchronise une copie périmée une seconde après votre clic, et vous ne le sauriez jamais.
La CLI et le dashboard affichent tous deux d'où vient le dernier changement accepté : « est-ce que ça a pris » se répond d'un coup d'œil.
Une réserve honnête : les fenêtres sont stockées, synchronisées et affichées aujourd'hui ; l'évaluation par l'agent arrive dans la prochaine release. Tout le reste de cette page est appliqué maintenant.
À lire aussi
Model catalogue · Download mahout · How the whole system works · Blog