Ce qu'un hôte peut refuser
Les limites qu'un propriétaire de GPU fixe et que nous respectons : modèles, heures, puissance, disque, et le gros bouton rouge — plus les deux choses que vous ne pouvez pas refuser.
Prêter un ordinateur à un réseau est un exercice de confiance, et la confiance tient surtout à ce à quoi vous pouvez dire non. Voici la liste complète, côté hôte.
Non, pas maintenant
mahout pause termine ce qui est en cours et cesse d'accepter du neuf. Rien n'est
abandonné en pleine génération ; rien de nouveau n'arrive. Le dashboard montre la machine en
pause.
Automatiquement, et activé par défaut : le travail s'arrête dans les secondes où vous touchez le clavier, et pendant toute application plein écran ou jeu. Vous n'avez pas à y penser.
Non, pas à ces heures-là
Les fenêtres de disponibilité restreignent la machine aux heures que vous choisissez. En dehors, elle ne prend rien.
Non, pas ce modèle
models_allowed restreint la machine à des identifiants précis. Il y a des raisons
légitimes — une licence sous laquelle vous préférez ne pas servir, des poids que vous préférez ne
pas garder sur votre disque, ou simplement le modèle qui paie le mieux sur votre carte.
Et une limite qui n'est pas à vous mais qui vous protège quand même : mahout n'exécute jamais que des artefacts épinglés et vérifiés dans sa propre release. Il n'existe aucun mécanisme pour que nous tendions à votre machine un binaire ou une URL arbitraire — ce « non »-là est structurel, pas une politique que nous promettons de tenir.
Non, pas autant de ma machine
Un plafond de puissance, de la VRAM retenue pour votre propre usage, un budget disque pour le
cache des poids, et une part de votre bande passante montante pour aider d'autres hôtes à
télécharger les modèles — que vous pouvez mettre à zéro. Tout dans mahout config ou
le dashboard.
Non, plus du tout
mahout uninstall supprime le cache, l'état et l'identité. Il affiche le plan de
suppression et attend confirmation avant de toucher à quoi que ce soit, et
--keep-identity préserve votre clé de signature au cas où vous reviendriez. Les
gains déjà accumulés sont quand même versés ; partir n'est pas une confiscation.
Révoquer une machine depuis le dashboard fait la même chose depuis l'autre bout : ses heartbeats échouent et on cesse de lui proposer du travail.
Ce que vous ne pouvez pas refuser
- Le contenu d'un prompt. Vous servez des requêtes sans voir qui les envoie et ne pouvez pas filtrer par contenu. Un prompt est de la donnée passée à un modèle, jamais des instructions à votre système d'exploitation, et rien n'est écrit sur votre disque — mais si servir du texte inconnu n'est pas acceptable pour vous, ce réseau n'est pas pour vous, et c'est une position raisonnable.
- Le prix. Les tarifs sont fixés centralement et publiés sur la page des modèles ; il n'y a pas d'enchère par hôte aujourd'hui. Votre levier, c'est quels modèles vous servez et quand — pas ce qu'ils paient.
À lire aussi
Model catalogue · Download mahout · How the whole system works · Blog