Katalog

jedes modell, das wir bedienen, und was es wirklich kostet

Ein OpenAI-kompatibler Endpunkt, nur offene Gewichte, Preis pro Million Tokens ohne Minimum und ohne Abo. Jedes Modell erreicht über verschiedene Quantisierungen mehrere GPU-Klassen — eine 6-GB-Karte und eine 24-GB-Karte haben beide Arbeit, und Hosts behalten 80 % dessen, was ihre Hardware verdient.

was Ihre GPU bedienen kann

Ihre KarteModelleZum Beispiel
6 GB 3 Gemma 4 E4B Instruct, Qwen2.5 1.5B Instruct, Qwen2.5 0.5B Instruct
8 GB 3 Gemma 4 E4B Instruct, Qwen2.5 1.5B Instruct, Qwen2.5 0.5B Instruct
10 GB 5 Qwen3.8 27B Instruct, Gemma 4 12B Instruct, Gemma 4 E4B Instruct
12 GB 7 Qwen3.8 27B Instruct, GLM-4.7-Flash, Qwen3 Coder 30B-A3B
16 GB 9 Qwen3.8 27B Instruct, Qwen3.6 35B-A3B, GLM-4.7-Flash
24 GB 10 Qwen3.8 27B Instruct, Qwen3.6 35B-A3B, GLM-4.7-Flash

Mindest-VRAM pro Build. Installieren Sie mahout und starten Sie mahout models — es sagt Ihnen genau, was Ihre Karte bedienen kann.

Qwen3.8 27B Instruct

qwen3.8-27b

chatcodereasoninglong-contextmultilingualtool-usevision

27B dense 256K Apache-2.0 ab 9 GB €0.25 ein · €0.75 aus pro Million Tokens

2026 flagship open model for a single card: strong reasoning and code, 262K context, and no EU-sovereign listing anywhere else.

9 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
UD-Q5_K_M 18.4 GB 23 GB VRAM 32K Referenzqualität
UD-Q4_K_M 15.3 GB 20 GB VRAM 32K Referenzqualität
UD-IQ4_XS 13.3 GB 18 GB VRAM 32K ausgewogen
UD-Q3_K_XL 12.2 GB 16 GB VRAM 32K ausgewogen
UD-IQ3_S 11.2 GB 15 GB VRAM 32K ausgewogen
UD-IQ3_XXS 10.2 GB 14 GB VRAM 32K kompakt — für kleinere Karten
UD-Q2_K_XL 9.2 GB 12 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ2_S 7.8 GB 11 GB VRAM 16K kompakt — für kleinere Karten
UD-IQ2_XXS 6.8 GB 9 GB VRAM 16K kompakt — für kleinere Karten

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Qwen3.6 35B-A3B

qwen3.6-35b-a3b

chatcodereasoninglong-contextmultilingualtool-usevision

35B MoE, 3B active 256K Apache-2.0 ab 14 GB €0.18 ein · €0.55 aus pro Million Tokens

Fast enough to delegate to: 3B active parameters decode at small-model speed while the full 35B answers, which is what makes it the one to hand sub-agent work to. Drafts ahead, sees images, 262K context.

8 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
UD-IQ4_NL 17.3 GB 22 GB VRAM 32K Referenzqualität
UD-IQ4_XS 17 GB 21 GB VRAM 32K Referenzqualität
UD-Q3_K_XL 16 GB 20 GB VRAM 32K ausgewogen
UD-IQ3_S 14.3 GB 19 GB VRAM 32K ausgewogen
UD-IQ3_XXS 13.1 GB 18 GB VRAM 32K ausgewogen
UD-Q2_K_XL 11.7 GB 16 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ2_XXS 11 GB 15 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ1_M 10.6 GB 14 GB VRAM 16K kompakt — für kleinere Karten

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

GLM-4.7-Flash

glm-4.7-flash

chatcodereasoninglong-contextmultilingualtool-use

31B MoE 198K MIT ab 11 GB €0.16 ein · €0.5 aus pro Million Tokens

MIT licensed end to end — the most permissive terms in the catalogue, and the answer for buyers whose legal team reads the licence. Strong general reasoning from a second vendor.

9 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_1 17.7 GB 23 GB VRAM 32K Referenzqualität
UD-Q4_K_XL 16.3 GB 21 GB VRAM 32K Referenzqualität
IQ4_XS 15.2 GB 20 GB VRAM 32K ausgewogen
UD-Q3_K_XL 12.8 GB 17 GB VRAM 32K ausgewogen
UD-IQ3_XXS 12 GB 16 GB VRAM 32K ausgewogen
UD-Q2_K_XL 11.1 GB 15 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ2_XXS 9.8 GB 14 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ1_S 8.6 GB 12 GB VRAM 16K kompakt — für kleinere Karten
UD-TQ1_0 7.8 GB 11 GB VRAM 16K kompakt — für kleinere Karten

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Qwen3 Coder 30B-A3B

qwen3-coder-30b-a3b

chatcodereasoninglong-contexttool-use

30B MoE, 3B active 256K Apache-2.0 ab 11 GB €0.2 ein · €0.6 aus pro Million Tokens

Built for code and agentic tool use: repository-scale context at 262K, and 3B active parameters so it answers at conversational speed.

9 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_1 17.9 GB 23 GB VRAM 32K Referenzqualität
UD-Q4_K_XL 16.5 GB 21 GB VRAM 32K Referenzqualität
IQ4_XS 15.3 GB 20 GB VRAM 32K ausgewogen
UD-Q3_K_XL 12.9 GB 17 GB VRAM 32K ausgewogen
UD-IQ3_XXS 12 GB 16 GB VRAM 32K ausgewogen
UD-Q2_K_XL 11 GB 15 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ2_XXS 9.6 GB 14 GB VRAM 32K kompakt — für kleinere Karten
UD-IQ1_M 9 GB 13 GB VRAM 16K kompakt — für kleinere Karten
UD-TQ1_0 7.5 GB 11 GB VRAM 16K kompakt — für kleinere Karten

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Gemma 4 26B-A4B Instruct

gemma-4-26b-a4b

chatreasoningmultilinguallong-context

26B MoE, 4B active 128K Gemma Terms of Use ab 17 GB €0.15 ein · €0.45 aus pro Million Tokens

Mixture-of-experts: 26B of knowledge at the speed of a 4B model. Quantization-aware weights published by Google, so the 4-bit build loses far less than a post-hoc quantization.

1 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_0 (QAT) 13.4 GB 17 GB VRAM 32K Referenzqualität

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

gpt-oss 20B

gpt-oss-20b

chatcodetool-usereasoning

20B MoE 128K Apache-2.0 ab 14 GB €0.12 ein · €0.4 aus pro Million Tokens

Open-weight 20B tuned for tool use and structured output. Natively MXFP4, so 4-bit costs it almost nothing.

1 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_K_M 10.8 GB 14 GB VRAM 32K Referenzqualität

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Gemma 4 12B Instruct

gemma-4-12b

chatreasoningmultilingual

12B dense 128K Gemma Terms of Use ab 10 GB €0.08 ein · €0.25 aus pro Million Tokens

The 8 GB workhorse: a capable general assistant on cards most gamers already own, with Google's quantization-aware 4-bit weights.

1 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_0 (QAT) 6.5 GB 10 GB VRAM 32K Referenzqualität

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Gemma 4 E4B Instruct

gemma-4-e4b

chatmultilingual

8B MatFormer, 4B effective 128K Gemma Terms of Use ab 6 GB €0.05 ein · €0.15 aus pro Million Tokens

Built for small cards and laptops: 6 GB of VRAM is enough to earn.

1 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_0 (QAT) 4.8 GB 6 GB VRAM 16K Referenzqualität

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Qwen2.5 1.5B Instruct

qwen2.5-1.5b-instruct

chat

1.5B dense 32K Apache-2.0 ab 3 GB €0.05 ein · €0.15 aus pro Million Tokens

Tiny, fast, runs anywhere — the enrollment smoke test and the model behind starter work for a freshly linked machine.

1 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_K_M 1 GB 3 GB VRAM 32K Referenzqualität

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

Qwen2.5 0.5B Instruct

qwen2.5-0.5b-instruct

chat

0.5B dense 32K Apache-2.0 ab 2 GB €0.02 ein · €0.06 aus pro Million Tokens

Smallest catalog entry: CPU-only fallback and multi-model swap tests.

1 Builds — einer pro VRAM-Klasse
QuantisierungDownloadbenötigtKontextHinweise
Q4_K_M 0.5 GB 2 GB VRAM 32K Referenzqualität

Jeder Build ist auf eine exakte Upstream-Revision gepinnt und vor dem Start gegen seine SHA-256 geprüft — auf Ihrer Maschine, wenn Sie hosten, und auf der Maschine, die Sie bedient, wenn Sie entwickeln.

nutzen oder bedienen

Richten Sie die Basis-URL Ihres SDK auf https://app.elephantpool.ai/api/gateway/v1 und übergeben Sie die Modell-ID — oder verbinden Sie eine GPU und werden Sie für jeden Token bezahlt.

Mit Ihrer GPU bedienen API aufrufen