Open-Weight-LLMs, gehostet in Österreich

Jedes Modell mit eigener Seite: was es kann, wie schnell es bei uns läuft, wie gut es logisch schließt und was es kostet.

Wofür? Entscheiden Eigene Modelle
Modell Alias Kann Kontext Logik-Index Tempo Preis / Mio. Tokens Status
Qwen 3.8 27B 27B dense (NVFP4)
top
ToolsBildReasoning 256K 80 38 t/s € 0,50 / € 2Standard geladen
Qwen 3.8 Flash-Next NVFP4 (ModelOpt, MIXED_PRECISION) - ToolsBildReasoning 256K 78 53 t/s - internal use only
Nemotron 3 Nano Omni 33B / 3B MoE (Q4_K_M) - ToolsBildReasoning 256K - 46 t/s € 0,75 / € 3Multimodal on-demand
Erststart 9,2 s
Nemotron 3.5 Bolt 74B / 9B MoE (IQ2_XXS (QAD))
judge
ToolsBildReasoning 256K 79 70 t/s € 0,75 / € 3Multimodal geladen
Nemotron Cascade 2 32B dense (Q4_K_M) - ToolsReasoning 256K 69 46 t/s € 0,75 / € 3Reasoning on-demand
Erststart 1,1 s
Phi 4 14B dense (Q4_K_M) - Text 16K - 16 t/s € 0,75 / € 3Reasoning on-demand
Erststart 3,1 s
Qwen 3.6 35B 35B / 3B MoE (FP8)
midvisionworker
ToolsBildReasoning 256K 80 68 t/s € 0,50 / € 2Standard geladen
Qwen 3.5 35B 35B / 3B MoE (Q4_K_M) - ToolsBildReasoning 256K - 34 t/s € 0,50 / € 2Standard on-demand
Erststart 21 s
Granite 4.1 30B dense (Q4_K_M) - Tools 256K - 7 t/s € 0,50 / € 2Standard on-demand
Erststart 27 s
Nemotron 3 Nano 30B / 3.5B MoE (Q4_K_M) - ToolsReasoning 256K - 46 t/s € 0,50 / € 2Standard on-demand
Erststart 7,2 s
Nemotron 3.5 Lightning 30B / 3B MoE (NVFP4 (ModelOpt, MIXED_PRECISION))
fastswift
ToolsReasoning 256K 76 111 t/s € 0,25 / € 1Schnell geladen
Qwen 3.6 27B 27B dense (Q4_K_M) - ToolsBildReasoning 256K - 7 t/s € 0,50 / € 2Standard on-demand
Erststart 0,7 s
Gemma 4 26B 26B / 4B MoE (Q4_K_M) - ToolsBildReasoning 256K 77 36 t/s € 0,50 / € 2Standard on-demand
Erststart 7,9 s
Qwen3 Coder Next 80B dense (Q4_K_M)
coder
Tools 256K - 34 t/s € 0,50 / € 2Code on-demand
Erststart 13 s
Flint 40B / 2.5B MoE (NVFP4) - ToolsReasoning 256K - 38 t/s € 0,50 / € 2Code on-demand
Erststart 9,4 s
Qwen3 Coder 31B dense (Q4_K_M) - Tools 256K - 44 t/s € 0,50 / € 2Code on-demand
Erststart 10 s
Qwen 3.5 9B 9B dense (Q4_K_M) - ToolsBildReasoning 256K 49 20 t/s € 0,25 / € 1Schnell on-demand
Erststart 9,2 s

Logik-Index und Tempo messen wir selbst. Ein Klick auf ein Modell öffnet seine Detailseite.

Entscheidungsmodelle

Sie erzeugen keinen Text. Sie bekommen eine Lage und typisierte Fragen und liefern je Antwortoption eine Wahrscheinlichkeit, in einem Durchlauf und über einen eigenen Endpunkt. Typischer Einsatz: entscheiden, welches Modell eine Anfrage bekommt.

Modell Alias Kontext Dauer je Entscheidung Preis / Mio. Tokens Status
Clef Flash 9B dense (Q8_0)
clef-flash
256K 399 ms € 0,25 / € 1Entscheidung geladen
Clef 27B dense (Q4_K_M)
clef
256K 1,1 s € 0,25 / € 1Entscheidung on-demand
Erststart 16 s
D3 Flash 9B dense (Q8_0)
d3-flash
256K 485 ms € 0,25 / € 1Entscheidung on-demand
Erststart 7,5 s
D3 27B dense (Q8_0)
d3
256K 1,2 s € 0,25 / € 1Entscheidung on-demand
Erststart 13 s

Wie man sie aufruft

Eigene Modelle

Selbst trainiert und auf eigener Hardware betrieben, offen auf Hugging Face. Klein und spezialisiert: in ihrer Aufgabe so gut wie große Modelle, aber in Millisekunden statt Sekunden.

Modell Aufgabe Einsatz Dauer Preis Status
ALLSmartIntent 0,3B · mmBERT Entscheidung je Nachricht API /v1/intentHugging Face ↗ ≈ 15 msje Nachricht kostenlosmit jedem API-Schlüssel geladen
ALLSmartArt4 0,3B · mmBERT Namen, Firmen, Adressen (Art. 4 DSGVO) Privacy-Schicht, ab Stufe maskHugging Face ↗ ≈ 41 msje Anfrage € 0,10je Mio. Eingabe-Tokens geladen
ALLSmartArt4i 0,3B · mmBERT Personen ohne Namen erkennen (Art. 4 DSGVO, indirekt) Privacy-Schicht, Stufe strictHugging Face ↗ ≈ 15 msje Text € 0,10je Mio. Eingabe-Tokens geladen
ALLSmartArt9-10 4,2B + 0,3B · Qwen3.5-4B (LoRA) + mmBERT Gesundheit, Glaube, Straftaten (Art. 9 und 10 DSGVO) Privacy-Schicht, Kategorien-StufenHugging Face ↗ ≈ 90 msje Abschnitt € 0,10je Mio. Eingabe-Tokens geladen

Der Datenschutz-Preis gilt einmal je Anfrage mit Privacy-Stufe, für alle Datenschutz-Modelle zusammen. Die öffentlichen Fassungen der drei Datenschutz-Modelle auf Hugging Face sind aus Lizenzgründen eigene Trainings und nicht dieselben Gewichte wie hier; ALLSmartIntent ist dort dasselbe Modell. Genauigkeit, Vergleiche mit großen Modellen und Grenzen stehen auf den Seiten der Modelle.

10 Millionen Token kostenlos

Zum Start geschenkt.

Genug, um alles sauber zum Laufen zu bringen: Modelle vergleichen, Aliase einrichten, die Privacy-Schicht ausprobieren. Keine Karte, kein Abo.

Konto anlegen

Geladen oder auf Abruf

Geladene Modelle antworten sofort. Modelle auf Abruf holen wir beim ersten Aufruf in den Speicher; wie lange das dauert, steht in der Tabelle unter „Erststart“. Danach bleiben sie eine Weile geladen und antworten genauso schnell.

Wo das rechnet

Auf unseren eigenen DGX Spark in Oberösterreich, nicht bei einem Cloud-Anbieter. Tempo und Logik-Index in der Tabelle messen wir auf genau dieser Hardware.

Fehlt ein Modell?

Hängen Sie es per Alias dazu, über OpenRouter oder mit Ihrem eigenen Schlüssel. Die Privacy-Schicht davor sorgt dafür, dass Personendaten im Haus bleiben. Wie externe Modelle logisch abschneiden, zeigt der Logik-Index.

Ein Aufruf für alle

OpenAI-kompatibel. Wer das Modell wechselt, ändert nur den Namen, am besten den Alias.

curl https://allsmartllm.com/v1/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -d '{"model": "top", "messages": [ … ]}'

# anderes Modell: nur der Name ändert sich
  -d '{"model": "coder", "messages": [ … ]}'
Eigene Modelle

Selbst trainiert, blind gemessen.

Unsere eigenen Modelle erkennen Personendaten und besondere Kategorien und treiben so die Privacy-Schicht an. Mit allen Messwerten und Vergleichen.

Eigene Modelle ansehen