· reAPI Team
DGX Spark technische Daten: GB10, 128 GB Speicher und passende Modelle
NVIDIA DGX Spark: technische Daten laut NVIDIA mit GB10-Chip, 64 oder 128 GB gemeinsamem Speicher, 273 GB/s Bandbreite, 1 PFLOP FP4 und passenden lokalen LLMs.
NVIDIA DGX Spark ist ein Desktop-Computer mit einer quadratischen Grundfläche von 150 mm Seitenlänge auf Basis des GB10 Grace Blackwell Superchip. Zu den wichtigsten technischen Daten von DGX Spark zählen eine Arm-CPU mit 20 Kernen, bis zu 1 PetaFLOP FP4-Rechenleistung, 64 GB oder 128 GB gemeinsamer LPDDR5x-Speicher mit 273 GB/s, bis zu 4 TB NVMe-Speicher und ein ConnectX-7-Netzwerkanschluss mit 200 Gbps. Ausgeliefert wird er mit dem Ubuntu-basierten DGX OS von NVIDIA.[1]
Zwei Zahlen entscheiden darüber, wofür sich der Rechner eignet: 128 GB Arbeitsspeicher bestimmen, wie groß ein Modell sein darf, und 273 GB/s bestimmen, wie schnell dieses Modell Tokens erzeugen kann. Diese Seite führt die offiziellen technischen Daten von DGX Spark auf und erklärt anschließend, was sie für den lokalen Betrieb großer Sprachmodelle bedeuten.
DGX Spark: technische Daten auf einen Blick
| Komponente | Spezifikation |
|---|---|
| Chip | NVIDIA GB10 Grace Blackwell Superchip |
| CPU | Arm mit 20 Kernen: 10 Cortex-X925 + 10 Cortex-A725 |
| GPU | Blackwell-Architektur, Tensor Cores der 5. Generation, RT Cores der 4. Generation |
| KI-Leistung | Bis zu 1 PFLOP FP4 (theoretisch, mit Sparsity) |
| Arbeitsspeicher | 64 GB oder 128 GB LPDDR5x, kohärenter gemeinsamer Speicher, 256-Bit-Schnittstelle |
| Speicherbandbreite | 273 GB/s |
| Massenspeicher | Bis zu 4 TB NVMe M.2, selbstverschlüsselnd |
| Netzwerk | 10 GbE RJ-45, ConnectX-7 NIC mit 200 Gbps, Wi-Fi 7, Bluetooth 5.4 |
| Anschlüsse | 4x USB Type-C, 1x HDMI 2.1a, bis zu 3x DisplayPort über USB-C |
| Stromversorgung | 240-W-Netzteil; GB10 TDP 140 W |
| Maße und Gewicht | 150 x 150 x 50.5 mm, 1.2 kg |
| Betriebssystem | NVIDIA DGX OS |
Quelle: NVIDIA DGX Spark specifications, geprüft am 4. November 2026.[1]
Zwei Fußnoten im Datenblatt von NVIDIA verändern die Einordnung der Tabelle. Die Angabe von 1 PetaFLOP bezeichnet „theoretische FP4-TOPS unter Nutzung der Sparsity-Funktion“, keine dauerhaft erreichbare Leistung für dichte Modelle. Die Konfiguration mit 64 GB „ist ausschließlich über teilnehmende OEM-Partner verfügbar“, die 64-GB-Version wird also nur über diese Partner verkauft.[1] Die Produktseite von NVIDIA nennt keinen Preis; sie verweist Käufer auf den NVIDIA Marketplace und Partner.
Welche Modelle in 128 GB gemeinsamen Speicher passen
Laut NVIDIA kann DGX Spark Inferenz mit Modellen mit bis zu 200 Milliarden Parametern ausführen.[1] Die Rechnung dahinter ist einfach. Ein im 4-Bit-Format gespeichertes Gewicht belegt ein halbes Byte, daher benötigen 200 Milliarden Parameter etwa 100 GB. Von den 128 GB bleiben damit ungefähr 28 GB für das Betriebssystem, die Laufzeitumgebung und den Kontext-Cache. Bei 8-Bit-Präzision passen in dasselbe Budget etwa halb so viele Parameter.
Nur die Gewichte, nach Modellgröße und Präzision:
| Modellgröße | 4-Bit-Gewichte | 8-Bit-Gewichte | Passt in 128 GB? |
|---|---|---|---|
| 30B Parameter | ~15 GB | ~30 GB | Ja, bei beiden Präzisionen, mit Platz für langen Kontext |
| 70B Parameter | ~35 GB | ~70 GB | Ja, bei beiden Präzisionen |
| 120B Parameter | ~60 GB | ~120 GB | 4 Bit problemlos; 8 Bit lässt fast keinen Platz für Kontext |
| 200B Parameter | ~100 GB | ~200 GB | Nur mit 4 Bit |
Die Zahlen ergeben sich aus der Parameterzahl multipliziert mit den Bytes pro Gewicht. Kontext-Cache, Aktivierungen und Laufzeit-Overhead bleiben dabei unberücksichtigt. Deshalb kann einem Modell, das auf dem Papier „passt“, bei einem langen Prompt trotzdem der Speicher ausgehen.
Da CPU und GPU einen Speicherpool teilen, gibt es kein separates VRAM-Limit, das eingehalten werden muss. Das bedeutet auch, dass das Kontextfenster mit den Gewichten um Speicher konkurriert. Ollama erhöht beispielsweise den Standardkontext ab 48 GiB VRAM auf 256k Tokens und empfiehlt für Coding-Agenten mindestens 64,000 Tokens; ein langer Kontext bei einem großen Modell kann den Gesamtbedarf über den freien Speicher hinaus treiben.[2]
Die Version mit 64 GB halbiert all diese Kapazitäten. Im 4-Bit-Format passen Modelle mit bis zu ungefähr 100 Milliarden Parametern hinein, bevor Platz für Kontext berücksichtigt wird.
Warum 273 GB/s wichtiger sind als 1 PetaFLOP
Um jedes Token zu erzeugen, müssen die aktiven Gewichte des Modells aus dem Speicher gelesen werden. Bei einem dichten Modell sind das alle Gewichte, daher setzt die Speicherbandbreite der Decodiergeschwindigkeit eine Obergrenze:
maximum tokens per second ≈ memory bandwidth ÷ bytes of weights read per token
Für ein dichtes Modell mit 70 Milliarden Parametern im 4-Bit-Format werden pro Token etwa 35 GB Gewichte gelesen. 273 GB/s erlauben also höchstens etwa 7.8 Tokens pro Sekunde. Ein Mixture-of-Experts-Modell, das beispielsweise 10 Milliarden Parameter pro Token aktiviert, liest bei 4 Bit etwa 5 GB, wodurch die Obergrenze auf etwa 55 Tokens pro Sekunde steigt. Das sind aus der veröffentlichten Bandbreite abgeleitete Obergrenzen, keine Messwerte; der tatsächliche Durchsatz ist niedriger, sobald Caches, Attention und Software-Overhead berücksichtigt werden.
Für die Praxis heißt das: DGX Spark nimmt Modelle auf, die nicht in Consumer-GPUs passen, und eignet sich besser für Mixture-of-Experts-Modelle mit wenigen aktiven Parametern als für die größten dichten Modelle.
Lokale LLMs auf DGX Spark betreiben
Der GB10-Chip steht mit CUDA Compute Capability 12.1 auf der Liste der von Ollama unterstützten GPUs.[2] LM Studio ist für ARM64 Linux verfügbar, passend zur Arm-CPU von DGX Spark.[3] NVIDIAs eigener Software-Stack, einschließlich NIM-Microservices, wird auf DGX OS unterstützt.[1] Der Massenspeicher ist selten der begrenzende Faktor: Ein Modell mit 200 Milliarden Parametern im 4-Bit-Format belegt etwa 100 GB auf dem Datenträger, sodass die maximalen 4 TB Dutzende große Modelle aufnehmen. Einen direkten Vergleich der beiden gängigsten lokalen Laufzeitumgebungen finden Sie unter Ollama vs. LM Studio.
Für Modelle, die größer sind als die Kapazität eines einzelnen Geräts, können dank ConnectX-Netzwerk bis zu vier DGX Spark-Systeme gemeinsam an einem Modell arbeiten.[1]
FAQ
Läuft Windows auf DGX Spark?
Ausgeliefert wird es mit NVIDIA DGX OS, einer auf Ubuntu basierenden Linux-Distribution, die der Software auf den anderen DGX-Systemen von NVIDIA entspricht.[1] Windows-PCs mit NVIDIA RTX Spark sind eine separate Produktreihe.
Ist der Speicher von DGX Spark VRAM?
Es handelt sich um gemeinsamen Speicher für CPU und GPU, 64 GB oder 128 GB LPDDR5x. Ein Modell kann den größten Teil davon nutzen, abzüglich des Bedarfs von Betriebssystem und anderen Prozessen.[1]
Wie viele DGX Spark-Geräte lassen sich verbinden?
Bis zu vier, über das integrierte ConnectX-7-Netzwerk mit 200 Gbps.[1]
Wenn die technischen Daten von DGX Spark nicht ausreichen
Die technischen Daten von DGX Spark setzen den Schwerpunkt auf Kapazität statt Geschwindigkeit: In 128 GB passt ein Modell mit 200 Milliarden Parametern bei 4 Bit, doch 273 GB/s halten die Ausgabe dichter Modelle langsam. Wenn ein Projekt die größten Modelle mit langen Kontexten und schnellen Antworten benötigt, ist eine gehostete API die Alternative. reAPI stellt große Modelle wie DeepSeek V4 und Kimi K3 mit seinem 1M-Token-Kontext über einen OpenAI-kompatiblen Schlüssel bereit. Das ist nützlich, um lokale Ergebnisse mit den gehosteten Versionen zu vergleichen.
Quellen
- NVIDIA. DGX Spark product page and specifications. Abgerufen am 4. November 2026 von nvidia.com/en-us/products/workstations/dgx-spark
- Ollama. Hardware support and context length. Abgerufen am 4. November 2026 von docs.ollama.com/gpu und docs.ollama.com/context-length
- LM Studio. System requirements. Abgerufen am 4. November 2026 von lmstudio.ai/docs/app/system-requirements