Open-Weight-LLMs, gehostet in Österreich
Jedes Modell mit eigener Seite: was es kann, wie schnell es bei uns läuft, wie gut es logisch schließt und was es kostet.
| Modell | Alias | Kann | Kontext | Logik-Index | Tempo | Preis / Mio. Tokens | Status |
|---|---|---|---|---|---|---|---|
| Qwen 3.8 27B 27B dense (NVFP4) | top |
ToolsBildReasoning | 256K | 80 | 38 t/s | € 0,50 / € 2Standard | geladen |
| Qwen 3.8 Flash-Next NVFP4 (ModelOpt, MIXED_PRECISION) | - | ToolsBildReasoning | 256K | 78 | 53 t/s | - | internal use only |
| Nemotron 3 Nano Omni 33B / 3B MoE (Q4_K_M) | - | ToolsBildReasoning | 256K | - | 46 t/s | € 0,75 / € 3Multimodal |
on-demand
Erststart 9,2 s
|
| Nemotron 3.5 Bolt 74B / 9B MoE (IQ2_XXS (QAD)) | judge |
ToolsBildReasoning | 256K | 79 | 70 t/s | € 0,75 / € 3Multimodal | geladen |
| Nemotron Cascade 2 32B dense (Q4_K_M) | - | ToolsReasoning | 256K | 69 | 46 t/s | € 0,75 / € 3Reasoning |
on-demand
Erststart 1,1 s
|
| Phi 4 14B dense (Q4_K_M) | - | Text | 16K | - | 16 t/s | € 0,75 / € 3Reasoning |
on-demand
Erststart 3,1 s
|
| Qwen 3.6 35B 35B / 3B MoE (FP8) | midvisionworker |
ToolsBildReasoning | 256K | 80 | 68 t/s | € 0,50 / € 2Standard | geladen |
| Qwen 3.5 35B 35B / 3B MoE (Q4_K_M) | - | ToolsBildReasoning | 256K | - | 34 t/s | € 0,50 / € 2Standard |
on-demand
Erststart 21 s
|
| Granite 4.1 30B dense (Q4_K_M) | - | Tools | 256K | - | 7 t/s | € 0,50 / € 2Standard |
on-demand
Erststart 27 s
|
| Nemotron 3 Nano 30B / 3.5B MoE (Q4_K_M) | - | ToolsReasoning | 256K | - | 46 t/s | € 0,50 / € 2Standard |
on-demand
Erststart 7,2 s
|
| Nemotron 3.5 Lightning 30B / 3B MoE (NVFP4 (ModelOpt, MIXED_PRECISION)) | fastswift |
ToolsReasoning | 256K | 76 | 111 t/s | € 0,25 / € 1Schnell | geladen |
| Qwen 3.6 27B 27B dense (Q4_K_M) | - | ToolsBildReasoning | 256K | - | 7 t/s | € 0,50 / € 2Standard |
on-demand
Erststart 0,7 s
|
| Gemma 4 26B 26B / 4B MoE (Q4_K_M) | - | ToolsBildReasoning | 256K | 77 | 36 t/s | € 0,50 / € 2Standard |
on-demand
Erststart 7,9 s
|
| Qwen3 Coder Next 80B dense (Q4_K_M) | coder |
Tools | 256K | - | 34 t/s | € 0,50 / € 2Code |
on-demand
Erststart 13 s
|
| Flint 40B / 2.5B MoE (NVFP4) | - | ToolsReasoning | 256K | - | 38 t/s | € 0,50 / € 2Code |
on-demand
Erststart 9,4 s
|
| Qwen3 Coder 31B dense (Q4_K_M) | - | Tools | 256K | - | 44 t/s | € 0,50 / € 2Code |
on-demand
Erststart 10 s
|
| Qwen 3.5 9B 9B dense (Q4_K_M) | - | ToolsBildReasoning | 256K | 49 | 20 t/s | € 0,25 / € 1Schnell |
on-demand
Erststart 9,2 s
|
| Kein Modell in dieser Gruppe. | |||||||
Logik-Index und Tempo messen wir selbst. Ein Klick auf ein Modell öffnet seine Detailseite.
Entscheidungsmodelle
Sie erzeugen keinen Text. Sie bekommen eine Lage und typisierte Fragen und liefern je Antwortoption eine Wahrscheinlichkeit, in einem Durchlauf und über einen eigenen Endpunkt. Typischer Einsatz: entscheiden, welches Modell eine Anfrage bekommt.
| Modell | Alias | Kontext | Dauer je Entscheidung | Preis / Mio. Tokens | Status |
|---|---|---|---|---|---|
| Clef Flash 9B dense (Q8_0) | clef-flash |
256K | 399 ms | € 0,25 / € 1Entscheidung | geladen |
| Clef 27B dense (Q4_K_M) | clef |
256K | 1,1 s | € 0,25 / € 1Entscheidung |
on-demand
Erststart 16 s
|
| D3 Flash 9B dense (Q8_0) | d3-flash |
256K | 485 ms | € 0,25 / € 1Entscheidung |
on-demand
Erststart 7,5 s
|
| D3 27B dense (Q8_0) | d3 |
256K | 1,2 s | € 0,25 / € 1Entscheidung |
on-demand
Erststart 13 s
|
Eigene Modelle
Selbst trainiert und auf eigener Hardware betrieben, offen auf Hugging Face. Klein und spezialisiert: in ihrer Aufgabe so gut wie große Modelle, aber in Millisekunden statt Sekunden.
| Modell | Aufgabe | Einsatz | Dauer | Preis | Status |
|---|---|---|---|---|---|
|
|
Entscheidung je Nachricht | API /v1/intentHugging Face ↗ | ≈ 15 msje Nachricht | kostenlosmit jedem API-Schlüssel | geladen |
|
|
Namen, Firmen, Adressen (Art. 4 DSGVO) | Privacy-Schicht, ab Stufe maskHugging Face ↗ | ≈ 41 msje Anfrage | € 0,10je Mio. Eingabe-Tokens | geladen |
|
|
Personen ohne Namen erkennen (Art. 4 DSGVO, indirekt) | Privacy-Schicht, Stufe strictHugging Face ↗ | ≈ 15 msje Text | € 0,10je Mio. Eingabe-Tokens | geladen |
|
|
Gesundheit, Glaube, Straftaten (Art. 9 und 10 DSGVO) | Privacy-Schicht, Kategorien-StufenHugging Face ↗ | ≈ 90 msje Abschnitt | € 0,10je Mio. Eingabe-Tokens | geladen |
Der Datenschutz-Preis gilt einmal je Anfrage mit Privacy-Stufe, für alle Datenschutz-Modelle zusammen. Die öffentlichen Fassungen der drei Datenschutz-Modelle auf Hugging Face sind aus Lizenzgründen eigene Trainings und nicht dieselben Gewichte wie hier; ALLSmartIntent ist dort dasselbe Modell. Genauigkeit, Vergleiche mit großen Modellen und Grenzen stehen auf den Seiten der Modelle.
Geladen oder auf Abruf
Geladene Modelle antworten sofort. Modelle auf Abruf holen wir beim ersten Aufruf in den Speicher; wie lange das dauert, steht in der Tabelle unter „Erststart“. Danach bleiben sie eine Weile geladen und antworten genauso schnell.
Wo das rechnet
Auf unseren eigenen DGX Spark in Oberösterreich, nicht bei einem Cloud-Anbieter. Tempo und Logik-Index in der Tabelle messen wir auf genau dieser Hardware.
Fehlt ein Modell?
Hängen Sie es per Alias dazu, über OpenRouter oder mit Ihrem eigenen Schlüssel. Die Privacy-Schicht davor sorgt dafür, dass Personendaten im Haus bleiben. Wie externe Modelle logisch abschneiden, zeigt der Logik-Index.
Ein Aufruf für alle
OpenAI-kompatibel. Wer das Modell wechselt, ändert nur den Namen, am besten den Alias.
curl https://allsmartllm.com/v1/chat/completions \
-H "Authorization: Bearer $KEY" \
-d '{"model": "top", "messages": [ … ]}'
# anderes Modell: nur der Name ändert sich
-d '{"model": "coder", "messages": [ … ]}'