LLMs

KI in Österreich.

21 Open-Weight-Modelle auf eigener Hardware. Für die meisten Aufgaben reicht das, und kein Wort verlässt das Haus. Jede Nacht gemessen, nicht versprochen.

Alle 21 Modelle ansehen

gerade gemessen

Qwen 3.8 27B 38.3 t/s geladen
Nemotron 3 Nano Omni 45.6 t/s bei Bedarf
Nemotron 3.5 Bolt 69.6 t/s geladen
Nemotron Cascade 2 46.3 t/s bei Bedarf
Phi 4 16.0 t/s bei Bedarf

Wie gut sie logisch schließen: Logik-Index →

Alias

Ein Name. Jedes Modell.

Die Anwendung kennt nur den Alias. Dahinter ein eigenes Modell oder eines der großen über OpenRouter, mit eigenem Schlüssel. Umgestellt wird in der Zentrale, nicht im Code.

Alles zu Alias

Aliase, wie sie gerade zeigen

top→Qwen 3.8 27B
judge→Nemotron 3.5 Bolt
mid→Qwen 3.6 35B
vision→Qwen 3.6 35B
big-fat-model→OpenRouter · Kimi K3 (Beispiel)

Privacy

Personendaten bleiben im Haus.

Bevor ein Prompt nach außen geht, werden Namen, Firmen, Orte, Kontonummern und Schlüssel ersetzt. Das externe Modell rechnet mit Platzhaltern, die Antwort kommt mit den echten Namen zurück.

Privacy-Schicht

Was die Anwendung schickt

Antwort an Julia Berger von Innovatec Handel in Salzburg, Zahlung auf AT61 1904 3002 3457 3201.

Was das externe Modell sieht

Antwort an <<PERSON_1>> von <<ORG_1>> in <<LOC_1>>, Zahlung auf <<IBAN_1>>.

Selbst trainiert

Die Erkennung ist unsere.

Wer was sehen darf und welches Modell rechnet, entscheiden eigene Modelle: klein, schnell, blind gemessen und auf derselben Hardware wie alles andere.

Eigene Modelle

Eigene Modelle im Einsatz

ALLSmartIntent Entscheidung je Nachricht ≈ 15 ms im Einsatz
ALLSmartArt4 Art. 4 DSGVO ≈ 41 ms im Einsatz
ALLSmartArt4i Art. 4 DSGVO, indirekt ≈ 15 ms im Einsatz
ALLSmartArt9-10 Art. 9 und 10 DSGVO ≈ 90 ms im Einsatz

Eine Schicht, die alles an einer Stelle organisiert

Ihre Anwendung spricht mit einem Namen. Was dahinter passiert, welches Modell, welcher Anbieter, wie viel Datenschutz, konfigurieren Sie hier und ändern es jederzeit, ohne eine Zeile Code anzufassen. Probieren Sie es aus:

ALLSmartLLM

Alias big-fat-model

Ziel

aufgelöst auf ALLSmartLLM · Qwen 3.5 · 397B

Datenschutz

Nicht nötig. Der Prompt verlässt unser Haus ohnehin nicht.

Im Einsatz

RegelnKontonummern, E-Mail, Telefon, Schlüssel

ALLSmartArt4Personen, Firmen, Adressen

ALLSmartArt4iPersonen ohne Namen

ALLSmartArt9-10Art. 9 und 10 DSGVO, zuschaltbar

Was Ihre App schickt

Bereite bitte die Antwort an Julia Berger vor, die neue Finanzvorständin von Innovatec Handel in Salzburg. Sie möchte den Status der offenen Rechnung 2026-0417 wissen. Zahlung ging an Konto AT61 1904 3002 3457 3201. Für den ERP-Import bitte den API-Key sk-live-9f2ac41b8e verwenden.

Was das Zielmodell sieht, ALLSmartLLM

● Unverändert, der Prompt bleibt auf ALLSmartLLM in Österreich.

^* Ihr Key wird verschlüsselt gespeichert (AES-256, Master-Key im OS-Keyring, nie in der Datenbank, nie im Repo). Nur im Speicher des Request-Handlers dechiffriert, der ihn gerade verwendet. Nie geloggt, nie über einen Endpunkt zurückgegeben, jederzeit im Portal widerrufbar.

Für wen ist ALLSmartLLM?

Für Unternehmen, die KI einsetzen wollen, ohne bei der Hardware zu raten.

Welche Modelle Sie wirklich brauchen und wie viel Rechenleistung dafür nötig ist, weiß vorher niemand. Deshalb drehen wir die Reihenfolge um: Sie arbeiten zuerst mit unserer Infrastruktur, Ihr tatsächlicher Verbrauch zeigt den Bedarf, und erst dann kaufen Sie passende Hardware. Den Betrieb übernimmt unsere Software, dieselbe API wie hier. Wir begleiten den Umstieg.

Mehr zu Whitelabel →

Außerdem

Entwickler und Agenturen, die einen stabilen EU-Endpunkt für eigene Projekte brauchen. Hochschulen und Schulen für Lehre und Forschung, wenn die Anforderungen passen.

Nicht für

Hochrisiko-Anwendungen wie Personalauswahl, Kreditbewertung oder die Bewertung von Lernenden.

OpenRouter direkt vs. via ALLSmartLLM

Beides sind valide Wege. Der Unterschied liegt in Rechnung, Datenschutz und darin, wem Sie im Zweifel eine Mail schreiben.

OpenRouter direkt

Datenschutzkein Layer, Prompt geht 1:1 raus
ComplianceUS-Anbieter, kein DPA
Rate-Limitpro OpenRouter-Key
Modell-WechselClient-Code ändern
SupportDiscord + Docs
Fallbackkeiner, 500 = Ende
Modell-Katalog~500 Modelle sofort

via ALLSmartLLM

DatenschutzGLiNER-Detektion + LLM-Check bei strict
ComplianceDSGVO, DPA mit ALL Smart GmbH
Rate-Limiteinheitlich über alle Provider Ihres Kontos
Modell-WechselAlias umhängen, Client unverändert
SupportPersönlicher Ansprechpartner, deutsch oder englisch
FallbackMulti-Provider-Chain automatisch
Modell-Katalog21 kuratiert + BYOK-Passthrough zu OpenRouter/OpenAI

Inferenz ist das Rohmaterial. Das hier ist die Schicht, die daraus etwas Brauchbares macht.

Das Smarte war nie das Modell. Es ist das drumherum: Routing, Policy, Datenschutz, Nachweis.

Eine API, Ihre Aliase

Ein Alias ist mehr als ein Modellname, er bündelt Modell, Provider und Datenschutz-Policy. Modell zentral tauschen, Ihre Anwendung ändert sich nie.

big-fat-model ──► kimi-k2.6 kimi-k3

// Alias aktualisiert · null Code-Änderungen · Apps laufen weiter

Datenschutz in Stufen

Aus, pseudonymize oder strikt: eine LLM auf eigener Hardware prüft zusätzlich auf indirekte Kennungen, bevor irgendwas die EU verlässt.

aus mask pseudonymize strict

Bitte antworte an <<PERSON_1>> von <<ORG_1>> wegen Rechnung <<IBAN_1>>

Mapping lebt nur im Request-Speicher. Nie gespeichert, nie geloggt.

Ihre Daten bleiben in Europa

Eigene Hardware in Österreich. Keine Sub-Prozessoren, keine Drittländer. Externe Frontier-Modelle sind erreichbar, aber nur durch die Masking-Schicht.

Ihre App ──► ALLSmartLLM · AT ─▍ Drittland

Prompts enden auf Hardware, die uns gehört, oder gehen maskiert raus, nach Ihrer Policy.

Gemessen, nicht versprochen

Nächtliche Benchmarks mit veröffentlichter Methodik. Detection-Recall der Privacy-Schicht als Zahl, nicht als Adjektiv.

Qwen 3.8 27B

38.3 t/s

Nemotron 3 Nano Omni

45.6 t/s

Nemotron 3.5 Bolt

69.6 t/s

Decode-Rate, Streaming, Median wiederholter nächtlicher Läufe.

Fallback-Kette gegen tote Routen

Pro Alias bis zu vier Ziele hintereinander. Kippt der primäre Provider (429, 5xx, Timeout), wandert der Request automatisch zum nächsten. Auch quer über ALLSmartLLM und OpenRouter-Free.

free ──► google:free ──► nvidia:free ──► deepseek:free

// automatisch, live im Stream, kein Retry-Code auf Ihrer Seite

Eigene Provider-Keys, verschlüsselt

Bringen Sie Ihr OpenAI-, Anthropic- oder OpenRouter-Konto mit. Keys landen AES-256-GCM-verschlüsselt in einem Vault, Master-Key aus dem OS-Keyring. Klartext existiert nur im Request-Speicher, nie in Logs, nie in Backups.

Ihr Key ──► Vault · AES-256-GCM ──► Provider-Call

AES-256-GCM · OS-Keyring · Zero-Log für Klartext

Guards, Regeln vor der Antwort

Regelbasierte Policy-Prüfung pro Alias. „log_only" schreibt Verstöße nur ins Audit-Log, „enforce" bricht den Request. Für Compliance-Nachweis und harte Grenzen: keine Kunden-Daten in ext. Modelle, keine Kredit-Zahlen im Antwortstrom, keine PII in Trainingsdaten.

aus log_only enforce

log_only für Beobachten · enforce für Blockieren

Nicht ein Provider, alle

Ein Key bei uns, alle großen Anbieter darüber: eigene ALLSmartLLM-Hardware, OpenRouter (~300 Modelle), OpenAI, Anthropic, Groq, DeepSeek. Provider wechseln heißt: einen Alias umkonfigurieren.

ALLSmartLLM OpenRouter OpenAI Anthropic Groq DeepSeek

6 Provider · 1 API · pro Alias frei mischbar

Erste Antwort in unter fünf Minuten

Wenn Ihre Software OpenAI spricht, spricht sie schon ALLSmartLLM. Eine URL ändern.

Schritt 1

Account anlegen

10 Mio. Tokens gratis zum Testen und Einrichten. Keine Karte, kein Abo.

Gratis-Tokens10.000.000

Schritt 2

API-Key holen

Ein Key, alle Modelle, alle Aliase. Nutzungsbasiert, sonst nichts.

ALLSMARTLLM_API_KEY••••••••••••

Schritt 3

Ersten Request senden

Rufen Sie einen Alias auf, keine Modellversion. Datenschutz ist ein Parameter.

curl https://allsmartllm.com/v1/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -d '{
    "model": "top",
    "privacy": {"mode": "pseudonymize"},
    "messages": [...]
  }'

Später auf eigener Hardware: gleiche API auf Ihrer Hardware. Sobald Ihre Box läuft, ändern Sie eine URL, fertig.

Ab 0,25 € pro Million Tokens. Das ist die Preisseite.

In und Output getrennt, gestaffelt nach Modell-Kategorie. 10 Mio. Tokens gratis. Keine Grundgebühr, kein Abo, nur Nutzung.

Kategorie	Input	Output
Reasoning	€ 0,75 / Mtok	€ 3 / Mtok
Multimodal	€ 0,75 / Mtok	€ 3 / Mtok
Code	€ 0,50 / Mtok	€ 2 / Mtok
Standard	€ 0,50 / Mtok	€ 2 / Mtok
Schnell	€ 0,25 / Mtok	€ 1 / Mtok
Entscheidung	€ 0,25 / Mtok	€ 1 / Mtok
Privacy-Detektor	€ 0,10 / Mtok	nur wenn aktiv, auf Input-Tokens

Preise gelten für ALLSmartLLM-eigene Modelle. Der Privacy-Detektor kommt nur dazu, wenn Sie „mask", „pseudonymize" oder „strict" nutzt. Externe Provider (OpenRouter, OpenAI, Anthropic, …) laufen über Ihren eigenen Key. Sie zahlen direkt beim Anbieter, wir stellen dafür nichts in Rechnung.

API-Key holen Mit der Person sprechen, die das gebaut hat

Was wir speichern

Die Liste stammt aus dem Log-Schema, nicht aus einem Werbetext. Über die API wird kein Inhalt gespeichert: weder Ihre Prompts noch die Antworten.

Angabe	Über die API	Wozu
Ihre Prompts	nicht gespeichert	Verlassen den Gateway nie in Richtung Datenbank.
Die Antworten des Modells	nicht gespeichert	Werden ausgeliefert und danach verworfen.
Zeitpunkt	gespeichert	Abrechnung und Fehlersuche.
Angefragtes und benutztes Modell	gespeichert	Damit Sie sehen, was tatsächlich gerechnet hat.
Anzahl Tokens (rein und raus)	gespeichert	Grundlage der Abrechnung.
Dauer der Anfrage	gespeichert	Erkennt, wenn ein Backend langsam wird.
Status und Fehlermeldung	gespeichert	Support: ohne das können wir Ihnen nicht helfen.
Aufgerufener Endpunkt	gespeichert	Abrechnung und Missbrauchserkennung.
IP-Adresse und User-Agent	gespeichert	Missbrauchserkennung und Rate-Limits. 30 Tage.
Gewählter Privacy-Modus	gespeichert	Nachweis, welche Stufe für die Anfrage galt.

Die Angaben gelten für alle Endpunkte unter /v1/. Gespeichert wird auf eigener Hardware in Oberösterreich.