Betrieb

Betrieb der Sparks

Vier NVIDIA DGX Spark in unserer eigenen Infrastruktur in Österreich. Hier stehen die Betriebsdaten, wie sie anfallen: Tageswerte vom Vortag und Verläufe über 90 Tage. Auch die unschönen.

Je Spark

Spark 1

vLLM · Nemotron 3.5 Bolt und Qwen 3.8 27B
Tage ohne automatischen Neustart
2
Automatische Neustarts, 90 Tage
5
GPU gestern min / Mittel / max
48 / 51 / 85 °C
GPU-Temperatur je Tag über 90 Tage: Band von Minimum bis Maximum, Linie das Mittel, gestrichelt 85 °C. An 1 Tagen lag das Maximum bei 85 °C oder darüber.

Spark 2

vLLM · Qwen 3.8 Flash-Next, nur intern
Tage ohne automatischen Neustart
≥ 2
Automatische Neustarts, 90 Tage
0
GPU gestern min / Mittel / max
47 / 53 / 79 °C
GPU-Temperatur je Tag über 90 Tage: Band von Minimum bis Maximum, Linie das Mittel, gestrichelt 85 °C. An 0 Tagen lag das Maximum bei 85 °C oder darüber.

Spark 3

vLLM · Qwen 3.6 35B und Nemotron 3.5 Lightning
Tage ohne automatischen Neustart
26
Automatische Neustarts, 90 Tage
14
GPU gestern min / Mittel / max
44 / 46 / 74 °C
GPU-Temperatur je Tag über 90 Tage: Band von Minimum bis Maximum, Linie das Mittel, gestrichelt 85 °C. An 1 Tagen lag das Maximum bei 85 °C oder darüber.

Spark 4

Ollama · Modelle auf Abruf und Clef
Tage ohne automatischen Neustart
68
Automatische Neustarts, 90 Tage
1
GPU gestern min / Mittel / max
43 / 45 / 60 °C
GPU-Temperatur je Tag über 90 Tage: Band von Minimum bis Maximum, Linie das Mittel, gestrichelt 85 °C. An 0 Tagen lag das Maximum bei 85 °C oder darüber.

Ein automatischer Neustart heißt: systemd hat einen Dienst nach einem Absturz oder einem fehlgeschlagenen Start selbst wieder hochgefahren. Von Hand ausgelöste Neustarts, etwa bei Updates, zählen nicht. Mehrere Neustarts innerhalb von drei Stunden zählen als ein Ereignis, etwa eine Startschleife beim Einrichten eines neuen Modells. „≥“ heißt: kein Neustart seit Beginn der Messreihe.

Tempo je Modell

Wochenmedian der nächtlichen Messung, bei Modellen, die erst seit wenigen Wochen laufen, Tageswerte: Decode-Rate eines einzelnen Streams, gleiche Methode wie in unseren Technik-Artikeln. Seit 21.10.2026; davor lief die Messung mit einem anderen Prompt und ist mit den neueren Werten nicht vergleichbar (senkrechte Linie).

Qwen 3.8 27B

Spark 1 · zuletzt 38.0 t/s

Nemotron 3.5 Bolt

Spark 1 · zuletzt 74.3 t/s

Qwen 3.8 Flash-Next

Spark 2 · zuletzt 36.5 t/s

Qwen 3.6 35B

Spark 3 · zuletzt 79.3 t/s

Nemotron 3.5 Lightning

Spark 3 · zuletzt 110.1 t/s

Einbrüche bleiben stehen. Der Rückgang auf Spark 1 und 2 im Oktober kam von der Speicherverdichtung des Kernels; wie wir ihn gefunden haben, steht im Artikel über zwei Modelle auf einem DGX Spark.

Was hier nicht steht

Keine Hostnamen, Adressen oder Softwareversionen, keine Minutenwerte und kein Anfragevolumen. Auch keine Energiewerte: die Sparks melden nur den Verbrauch der GPU, nicht den an der Steckdose, und eine daraus gerechnete Zahl wäre falsch. Die Verfügbarkeit der letzten 30 Tage steht auf der Statusseite.