· reAPI Team
DGX Spark 配置参数：GB10、128 GB 内存与可运行的模型
依据 NVIDIA 官方规格表介绍 DGX Spark 配置：GB10 芯片、64 或 128 GB 统一内存、273 GB/s 带宽、1 PFLOP FP4 算力，以及能容纳哪些本地大模型。
NVIDIA DGX Spark 是一台采用 GB10 Grace Blackwell Superchip、底面为 150 mm 正方形的桌面计算机。DGX Spark 的主要配置包括 20 核 Arm CPU、最高 1 petaFLOP FP4 算力、带宽为 273 GB/s 的 64 GB 或 128 GB 统一 LPDDR5x 内存、最高 4 TB NVMe 存储以及 200 Gbps ConnectX-7 网络端口。它预装 NVIDIA 基于 Ubuntu 的 DGX OS。[1]
两个数字决定这台机器的擅长之处：128 GB 内存决定能容纳多大的模型，273 GB/s 决定模型生成 token 的速度。本文先列出 DGX Spark 的官方配置，再解释这些参数对本地运行大语言模型意味着什么。
DGX Spark 配置参数速览
| 组件 | 规格 |
|---|---|
| 芯片 | NVIDIA GB10 Grace Blackwell Superchip |
| CPU | 20 核 Arm：10 Cortex-X925 + 10 Cortex-A725 |
| GPU | Blackwell 架构，第 5 代 Tensor Cores，第 4 代 RT Cores |
| AI 性能 | 最高 1 PFLOP FP4（启用稀疏性的理论值） |
| 内存 | 64 GB 或 128 GB LPDDR5x，一致性统一内存，256 位接口 |
| 内存带宽 | 273 GB/s |
| 存储 | 最高 4 TB NVMe M.2，支持自加密 |
| 网络 | 10 GbE RJ-45、200 Gbps ConnectX-7 网卡、Wi-Fi 7、Bluetooth 5.4 |
| 端口 | 4x USB Type-C、1x HDMI 2.1a、通过 USB-C 提供最多 3x DisplayPort |
| 功率 | 240 W 电源；GB10 TDP 为 140 W |
| 尺寸与重量 | 150 x 150 x 50.5 mm，1.2 kg |
| 操作系统 | NVIDIA DGX OS |
来源：NVIDIA DGX Spark 规格，核对于 2026 年 11 月 4 日。[1]
NVIDIA 规格表中的两条脚注影响了表格的解读。1 petaFLOP 是“使用稀疏性功能时的理论 FP4 TOPS”，不是稠密模型的持续性能。64 GB 配置“仅通过参与的 OEM 合作伙伴提供”，因此 64 GB 版本只由这些合作伙伴销售。[1] NVIDIA 产品页未列出价格，而是将买家引导至 NVIDIA Marketplace 和合作伙伴。
128 GB 统一内存能容纳什么模型
NVIDIA 表示，DGX Spark 可以对最高 2000 亿参数的模型运行推理。[1] 背后的计算很简单。以 4 位格式存储一个权重需要半个字节，因此 2000 亿参数需要约 100 GB，128 GB 中还剩约 28 GB 可供操作系统、运行时和上下文缓存使用。同样容量在 8 位精度下能容纳的参数量约为一半。
按模型大小和精度计算，仅权重占用如下：
| 模型大小 | 4 位权重 | 8 位权重 | 能放入 128 GB 吗？ |
|---|---|---|---|
| 30B 参数 | ~15 GB | ~30 GB | 两种精度都可以，且有长上下文余量 |
| 70B 参数 | ~35 GB | ~70 GB | 两种精度都可以 |
| 120B 参数 | ~60 GB | ~120 GB | 4 位较充裕；8 位几乎没有上下文余量 |
| 200B 参数 | ~100 GB | ~200 GB | 仅 4 位可以 |
这些数字是参数量乘以每个权重的字节数，未计入上下文缓存、激活值和运行时开销。因此，纸面上“放得下”的模型，遇到长提示词时仍可能耗尽内存。
由于 CPU 和 GPU 共用一个内存池，无需满足独立的显存容量限制。这也意味着上下文窗口会与权重争用内存。例如，Ollama 在 VRAM 达到 48 GiB 及以上时会将默认上下文提高至 256k token，并建议编程智能体至少使用 64,000 token；大模型配合长上下文可能使总占用超过可用容量。[2]
64 GB 版本将这些容量全部减半。以 4 位格式计算，在尚未预留上下文空间前，它最多能容纳约 1000 亿参数的模型。
为什么 273 GB/s 比 1 petaFLOP 更重要
每生成一个 token，都需要从内存读取模型的激活权重。对稠密模型而言，就是全部权重，因此内存带宽决定了解码速度的上限：
maximum tokens per second ≈ memory bandwidth ÷ bytes of weights read per token
对于 4 位格式的 700 亿参数稠密模型，每个 token 约需读取 35 GB 权重，因此 273 GB/s 最多允许约每秒 7.8 token。若一个混合专家模型每个 token 激活例如 100 亿参数，在 4 位格式下读取约 5 GB，上限就提高到约每秒 55 token。这些是根据公开带宽推算的上限，并非实测；计入缓存、注意力和软件开销后，实际吞吐会更低。
实际含义是：DGX Spark 能容纳消费级 GPU 放不下的模型，而且比起最大的稠密模型，它更适合激活参数量较小的混合专家模型。
在 DGX Spark 上运行本地大模型
GB10 芯片位于 Ollama 的 GPU 支持列表中，CUDA 计算能力为 12.1。[2] LM Studio 提供 ARM64 Linux 版本，与 DGX Spark 的 Arm CPU 匹配。[3] DGX OS 支持包括 NIM 微服务在内的 NVIDIA 自有软件栈。[1] 磁盘空间很少成为限制：4 位格式的 2000 亿参数模型在磁盘上约占 100 GB，因此最高 4 TB 的容量能容纳数十个大模型。两款最常见本地运行工具的对比，见 Ollama 与 LM Studio。
对于单台设备放不下的模型，ConnectX 网络可让最多四台 DGX Spark 共同运行一个模型。[1]
FAQ
DGX Spark 运行 Windows 吗？
它预装 NVIDIA DGX OS，这是一个基于 Ubuntu 的 Linux 发行版，与 NVIDIA 其他 DGX 系统的软件保持一致。[1] 搭载 NVIDIA RTX Spark 的 Windows PC 属于另一条产品线。
DGX Spark 的内存是显存吗？
它是 CPU 与 GPU 共享的统一内存，容量为 64 GB 或 128 GB，类型为 LPDDR5x。扣除操作系统和其他进程所需部分后，模型可以使用其中的大部分。[1]
最多可以连接多少台 DGX Spark？
通过内置的 200 Gbps ConnectX-7 网络，最多连接四台。[1]
当 DGX Spark 的配置仍不够用时
DGX Spark 的配置偏重容量而非速度：128 GB 能容纳 4 位格式的 2000 亿参数模型，但 273 GB/s 会使稠密模型输出较慢。如果项目需要最大的模型、长上下文和快速响应，托管 API 是一种替代方案。reAPI 通过一个兼容 OpenAI 的密钥提供 DeepSeek V4 和拥有 1M-token 上下文的 Kimi K3 等大模型，便于将本地结果与托管版本进行比较。
参考资料
- NVIDIA. DGX Spark product page and specifications. 2026 年 11 月 4 日获取自 nvidia.com/en-us/products/workstations/dgx-spark
- Ollama. Hardware support and context length. 2026 年 11 月 4 日获取自 docs.ollama.com/gpu 和 docs.ollama.com/context-length
- LM Studio. System requirements. 2026 年 11 月 4 日获取自 lmstudio.ai/docs/app/system-requirements