· reAPI Team
DGX Spark 사양: GB10, 128 GB 메모리와 실행 가능한 모델
NVIDIA 공식 사양표로 살펴보는 DGX Spark 사양: GB10 칩, 64 또는 128 GB 통합 메모리, 273 GB/s 대역폭, 1 PFLOP FP4와 실행 가능한 로컬 LLM.
NVIDIA DGX Spark는 GB10 Grace Blackwell Superchip 기반의 가로세로 150 mm 데스크톱 컴퓨터입니다. 주요 DGX Spark 사양은 20코어 Arm CPU, 최대 1 petaFLOP의 FP4 연산 성능, 273 GB/s 대역폭의 64 GB 또는 128 GB 통합 LPDDR5x 메모리, 최대 4 TB NVMe 스토리지, 200 Gbps ConnectX-7 네트워크 포트입니다. NVIDIA의 Ubuntu 기반 DGX OS가 설치돼 출하됩니다.[1]
이 컴퓨터의 강점을 결정하는 숫자는 두 가지입니다. 메모리 128 GB는 담을 수 있는 모델의 크기를, 273 GB/s는 모델의 토큰 생성 속도를 결정합니다. 이 페이지는 공식 DGX Spark 사양을 정리한 뒤 로컬 대규모 언어 모델 실행에서 어떤 의미인지 살펴봅니다.
DGX Spark 사양 한눈에 보기
| 구성 요소 | 사양 |
|---|---|
| 칩 | NVIDIA GB10 Grace Blackwell Superchip |
| CPU | 20코어 Arm: 10 Cortex-X925 + 10 Cortex-A725 |
| GPU | Blackwell 아키텍처, 5세대 Tensor Cores, 4세대 RT Cores |
| AI 성능 | 최대 1 PFLOP FP4 (희소성 적용 시 이론값) |
| 메모리 | 64 GB 또는 128 GB LPDDR5x, 일관성 유지 통합 메모리, 256비트 인터페이스 |
| 메모리 대역폭 | 273 GB/s |
| 스토리지 | 최대 4 TB NVMe M.2, 자체 암호화 |
| 네트워크 | 10 GbE RJ-45, 200 Gbps ConnectX-7 NIC, Wi-Fi 7, Bluetooth 5.4 |
| 포트 | USB Type-C 4개, HDMI 2.1a 1개, USB-C를 통한 DisplayPort 최대 3개 |
| 전원 | 240 W 전원 공급 장치; GB10 TDP 140 W |
| 크기와 무게 | 150 x 150 x 50.5 mm, 1.2 kg |
| 운영체제 | NVIDIA DGX OS |
출처: NVIDIA DGX Spark 사양, 2026년 11월 4일 확인.[1]
NVIDIA 사양표의 각주 두 개를 보면 표의 해석이 달라집니다. 1 petaFLOP은 “희소성 기능을 사용하는 이론적 FP4 TOPS”로, 밀집 모델의 지속 성능 수치가 아닙니다. 64 GB 구성은 “참여 OEM 파트너를 통해서만 제공”되므로 해당 파트너만 판매합니다.[1] NVIDIA 제품 페이지에는 가격이 없고 구매자를 NVIDIA Marketplace와 파트너로 안내합니다.
128 GB 통합 메모리에 담을 수 있는 모델
NVIDIA는 DGX Spark가 최대 2,000억 파라미터 모델의 추론을 실행할 수 있다고 설명합니다.[1] 계산은 간단합니다. 4비트 형식으로 저장한 가중치는 반 바이트이므로 2,000억 파라미터에는 약 100 GB가 필요하고, 128 GB 중 약 28 GB가 운영체제, 런타임, 컨텍스트 캐시용으로 남습니다. 8비트 정밀도에서는 같은 용량에 대략 절반의 파라미터가 들어갑니다.
모델 크기와 정밀도별 가중치 용량만 보면 다음과 같습니다.
| 모델 크기 | 4비트 가중치 | 8비트 가중치 | 128 GB에 들어가나요? |
|---|---|---|---|
| 30B 파라미터 | ~15 GB | ~30 GB | 두 정밀도 모두 가능, 긴 컨텍스트 공간도 남음 |
| 70B 파라미터 | ~35 GB | ~70 GB | 두 정밀도 모두 가능 |
| 120B 파라미터 | ~60 GB | ~120 GB | 4비트는 여유로움; 8비트는 컨텍스트 공간이 거의 남지 않음 |
| 200B 파라미터 | ~100 GB | ~200 GB | 4비트만 가능 |
이 수치는 파라미터 수에 가중치당 바이트를 곱한 값입니다. 컨텍스트 캐시, 활성값, 런타임 오버헤드는 제외하므로, 계산상 “들어가는” 모델도 긴 프롬프트에서는 메모리가 부족할 수 있습니다.
CPU와 GPU가 하나의 메모리 풀을 공유하므로 별도로 맞춰야 할 VRAM 한도는 없습니다. 이는 컨텍스트 윈도가 가중치와 메모리를 나눠 쓴다는 뜻이기도 합니다. 예를 들어 Ollama는 VRAM 48 GiB 이상에서 기본 컨텍스트를 256k 토큰으로 높이고 코딩 에이전트에는 최소 64,000토큰을 권장합니다. 대형 모델에서 긴 컨텍스트를 사용하면 총 사용량이 남은 용량을 넘을 수 있습니다.[2]
64 GB 버전에서는 이 용량이 모두 절반이 됩니다. 컨텍스트 공간을 확보하기 전 기준으로 4비트 형식의 약 1,000억 파라미터 모델까지 들어갑니다.
1 petaFLOP보다 273 GB/s가 중요한 이유
토큰을 하나 생성할 때마다 메모리에서 모델의 활성 가중치를 읽어야 합니다. 밀집 모델에서는 모든 가중치가 해당하므로 메모리 대역폭이 디코딩 속도의 상한을 정합니다.
maximum tokens per second ≈ memory bandwidth ÷ bytes of weights read per token
4비트 형식의 700억 파라미터 밀집 모델에서는 토큰당 약 35 GB의 가중치를 읽으므로, 273 GB/s에서는 최대 초당 약 7.8토큰입니다. 예를 들어 토큰당 100억 파라미터를 활성화하는 전문가 혼합 모델은 4비트에서 약 5 GB를 읽으므로 상한이 초당 약 55토큰으로 높아집니다. 이는 측정값이 아니라 공개된 대역폭으로 계산한 상한입니다. 캐시, 어텐션, 소프트웨어 오버헤드까지 고려하면 실제 처리량은 더 낮습니다.
실용적으로 해석하면 DGX Spark는 소비자용 GPU가 담지 못하는 모델을 담으며, 가장 큰 밀집 모델보다는 활성 파라미터 수가 적은 전문가 혼합 모델에 더 적합합니다.
DGX Spark에서 로컬 LLM 실행하기
GB10 칩은 CUDA 컴퓨트 능력 12.1로 Ollama 지원 GPU 목록에 있습니다.[2] LM Studio는 DGX Spark의 Arm CPU와 맞는 ARM64 Linux용으로 배포됩니다.[3] NIM 마이크로서비스를 포함한 NVIDIA 자체 스택은 DGX OS에서 지원됩니다.[1] 디스크 공간이 한계인 경우는 드뭅니다. 4비트 형식의 2,000억 파라미터 모델은 디스크에서 약 100 GB이므로 최대 4 TB에는 대형 모델 수십 개가 들어갑니다. 가장 흔한 두 로컬 실행 도구의 비교는 Ollama vs LM Studio를 참고하세요.
한 대에 담기지 않는 모델은 ConnectX 네트워크로 최대 네 대의 DGX Spark 시스템을 연결해 하나의 모델을 함께 처리할 수 있습니다.[1]
FAQ
DGX Spark에서 Windows를 실행하나요?
NVIDIA의 다른 DGX 시스템과 소프트웨어가 일치하는 Ubuntu 기반 Linux 배포판인 NVIDIA DGX OS가 설치돼 출하됩니다.[1] NVIDIA RTX Spark 기반 Windows PC는 별도 제품군입니다.
DGX Spark 메모리는 VRAM인가요?
CPU와 GPU가 공유하는 통합 메모리로, 64 GB 또는 128 GB LPDDR5x입니다. 운영체제와 다른 프로세스에 필요한 양을 제외한 대부분을 모델이 사용할 수 있습니다.[1]
DGX Spark를 몇 대까지 연결할 수 있나요?
내장된 200 Gbps ConnectX-7 네트워크로 최대 네 대까지 연결할 수 있습니다.[1]
DGX Spark 사양만으로 부족할 때
DGX Spark 사양은 속도보다 용량에 무게가 실려 있습니다. 128 GB에는 4비트 2,000억 파라미터 모델이 들어가지만, 273 GB/s 대역폭 때문에 밀집 모델의 출력은 느립니다. 프로젝트에 긴 컨텍스트와 빠른 응답을 제공하는 초대형 모델이 필요하다면 호스팅 API가 대안입니다. reAPI는 DeepSeek V4, 1M 토큰 컨텍스트의 Kimi K3 같은 대형 모델을 하나의 OpenAI 호환 키로 제공하므로, 로컬 결과를 호스팅 버전과 비교하기에 유용합니다.
참고 자료
- NVIDIA. DGX Spark product page and specifications. 2026년 11월 4일 확인, 출처: nvidia.com/en-us/products/workstations/dgx-spark
- Ollama. Hardware support and context length. 2026년 11월 4일 확인, 출처: docs.ollama.com/gpu 및 docs.ollama.com/context-length
- LM Studio. System requirements. 2026년 11월 4일 확인, 출처: lmstudio.ai/docs/app/system-requirements