DGX 스파크(DGX Spark) 이해하기, 무엇이고 누구에게 맞는지

🤔 손바닥 크기 컴퓨터에 128GB가 들어 있다는 말을 들었을 때

로컬에서 큰 언어 모델을 돌리려는 분들 사이에서 DGX 스파크는 자주 나오는 이름입니다. 손바닥 크기 상자에 128GB 메모리가 들어 있고 100B급 모델이 한 대에 올라간다는데, 정작 써 본 사람의 평은 느리다는 쪽과 시간이 갈수록 나아졌다는 쪽으로 나뉩니다.

모델과 실행 도구 및 측정 조건이 다르면 같은 장비의 결과도 달라집니다. DGX 스파크가 무엇이고 공식 사양이 어떻게 되는지, 어떤 용도에 맞고 어떤 용도에는 맞지 않는지를 2026년 10월 3일 확인한 공식 자료를 기준으로 정리했습니다.

🔑 DGX 스파크의 정의

DGX 스파크(DGX Spark)는 엔비디아가 2025년 10월에 내놓은 손바닥 크기의 AI 개발용 컴퓨터로, GB10 그레이스 블랙웰 슈퍼칩에 통합 메모리 128GB를 얹고 리눅스 기반 DGX OS로 돌아갑니다.

이름부터 나누겠습니다. DGX는 엔비디아가 AI 개발용으로 파는 완제품 컴퓨터 계열이고, RTX는 그래픽카드와 관련 기술 및 PC 제품군에도 쓰는 이름입니다. DGX 스파크는 DGX 계열 가운데 가장 작은 제품이라 그래픽카드를 꽂는 방식이 아니라 CPU와 GPU가 한 칩에 묶여 메모리 하나를 나눠 씁니다. 이 구조가 무엇을 뜻하는지는 하드웨어 기초에서 다뤘습니다.

📋 공식 사양

아래는 128GB 구성 중심의 공식 사양입니다. 현재 공식 페이지에는 파트너 제조사 전용 64GB 구성이 출시 예정으로 안내되어 있으므로 주문할 제품의 메모리와 저장 장치 구성을 따로 확인합니다.

FP4는 숫자를 4비트 부동소수점으로 표현하는 방식이고 1페타플롭은 초당 1,000조 회 연산을 나타내는 단위입니다. 최대 성능은 제조사의 정밀도와 연산 조건에서 읽으며 실제 초당 답변 수가 아닙니다. 추론 200B와 미세조정 70B도 제조사 안내 범위로, 모든 모델을 모든 정밀도와 입력 길이에서 실행한다는 뜻은 아닙니다. 전원 공급 장치의 240W 역시 항상 그만큼 소비한다는 의미가 아닙니다.

2026년 2월 가격 변경 공지는 Founders Edition의 권장 가격을 3,999달러에서 4,699달러로 변경했다고 설명합니다. 이는 당시 공지이며 현재 한국 판매가나 파트너 제품 가격을 보장하지 않습니다. 세금, 배송과 보증을 포함한 현재 견적을 확인합니다.

🚰 대역폭 273GB/s가 뜻하는 것

128GB는 담을 수 있는 메모리의 총량이고 273GB/s는 메모리에서 데이터를 옮기는 대역폭입니다. 물탱크 크기와 수도관 굵기가 다른 개념인 것처럼, 큰 모델을 담는 능력과 같은 모델의 처리 속도를 구분합니다.

다만 대역폭만으로 실제 초당 토큰을 확정할 수는 없습니다. 모델 구조와 양자화, 입력 길이와 동시 요청 수 및 실행 도구도 영향을 줍니다. 토큰은 문장을 처리하기 위해 나눈 조각입니다. 전문가 혼합 구조인 MoE는 매 단계에 일부 파라미터를 사용하므로 전체 크기와 활성 부분을 나누어 봅니다. 그렇다고 활성 파라미터 수만으로 속도가 정해지는 것도 아닙니다.

벤치마크를 읽을 때는 모델 이름과 버전, 양자화, 입력 길이 및 측정 도구가 같은지 확인합니다. 서로 다른 모델의 초당 토큰을 비교해 장비 자체의 속도 차이로 해석하지 않습니다. 하드웨어 기초에서 계산값과 실제 측정의 차이를 다룹니다.

🔌 여러 대를 연결할 때 달라지는 것

ConnectX-7은 기기 사이의 고속 네트워크 장치이고 QSFP는 연결 포트와 케이블의 규격 이름입니다. 공식 문서는 각 DGX 스파크에 QSFP 포트 두 개, 포트당 최대 200Gb/s를 안내합니다. 8비트가 1바이트이므로 200Gb/s는 단위 환산으로 25GB/s이며 실제 전송량은 통신 비용과 구성에 따라 달라집니다.

여러 대를 연결해 한 대에 담기 어려운 작업을 나눠 실행할 수 있습니다. 케이블 연결뿐 아니라 네트워크 주소와 실행 소프트웨어의 분산 설정도 필요합니다. 현재 제품 페이지는 최대 4대 구성을 소개하고 사용자 가이드는 2대, 3대와 스위치를 쓰는 연결 절차로 안내합니다. 스위치는 여러 기기의 네트워크 연결을 중계하는 장치입니다.

128GB 두 대의 명목 합계는 256GB지만 한 프로그램이 추가 설정 없이 그 공간을 모두 쓰는 것은 아닙니다. 운영체제와 캐시 및 통신용 공간이 필요하고 모델 배치 방식도 영향을 줍니다. 실행 시간을 줄일지, 한 대에 담기 어려운 모델을 사용할지 목적을 구분한 뒤 확인합니다.

한 모델을 나눠 실행하는 것과 각 기기에서 별도 요청을 처리하는 것도 다릅니다. 후자는 전체 요청 처리량을 늘릴 수 있어도 한 요청의 응답 시간이 같은 비율로 줄어드는 것은 아닙니다.

🎯 사용할 작업부터 확인하기

Arm은 CPU 구조의 종류이며 x86용 리눅스 프로그램이나 컨테이너가 그대로 동작한다고 가정하지 않습니다. 컨테이너는 실행 환경을 묶은 것이지만 CPU 구조와 GPU 지원까지 자동으로 해결하지는 않습니다.

RTX 스파크와 이름이 비슷해도 운영체제와 제품 형태 및 지원 환경을 따로 비교합니다. 장비 비교는 DGX 스파크와 RTX 5090 비교에서도 다루지만 가격과 재고 및 도구 지원은 현재 자료를 다시 확인합니다.

본문의 용도 비교를 선택 질문으로 재구성했습니다. 제품의 가격이나 성능 수치를 추가하지 않았습니다.

⚠️ 자주 하는 실수

• 총 메모리를 모델이 모두 쓴다고 봅니다: 운영체제와 추가 작업 공간 및 현재 여유를 확인합니다.
• 두 대면 두 배 빠르다고 봅니다: 모델 분산과 요청 분산의 목적을 나누고 실제 작업으로 비교합니다.
• 클라우드가 필요 없는 장비라고만 봅니다: 도구가 외부 API나 검색을 호출하는지는 별도 확인합니다.
• 출시 가격만으로 예산을 잡습니다: 현재 견적과 보증, 전력과 관리 비용까지 포함합니다.

❓ 자주 묻는 질문

개인이 구매할 수 있나요?

NVIDIA와 파트너 판매 경로가 안내되어 있습니다. 지역과 구성별 재고 및 보증 조건은 판매처에서 확인합니다. 제품 페이지에 구매 링크가 있다는 사실만으로 즉시 배송을 보장하지 않습니다.

리눅스를 모르는데 쓸 수 있나요?

공식 초기 설정 안내로 시작할 수 있지만 도구 설치, 오류 기록 확인과 업데이트를 익혀야 합니다. 처음부터 여러 대를 연결하기보다 한 대에서 지원되는 작은 모델의 입력과 결과를 확인합니다. 장비 구매 전에는 지금 가진 컴퓨터로 실행 도구를 익힐 수 있습니다.

API를 쓰는 편이 싸지 않나요?

사용량과 데이터 조건에 따라 다릅니다. API는 입력과 출력 및 추가 도구 비용을, 장비는 구매와 전력 및 관리 비용을 같은 기간으로 비교합니다. 낮은 사용량에서는 API가 유리할 수 있지만 실제 견적과 사용 기록으로 계산해야 합니다.

DGX 스테이션과 같은 제품인가요?

별도의 제품입니다. Spark의 사양이나 실행 기록을 Station에 그대로 적용하지 않고 제품별 공식 사양과 견적 및 운영 환경을 확인합니다.

구매 전에 비교표 한 줄 만들기

메모장에 “민감 정보가 없는 교육 메모에서 날짜와 장소 찾기, 하루 20회”라는 가상 업무를 적습니다. 후보 모델, 입력 길이, 허용 대기 시간과 데이터의 외부 전송 가능 여부를 각각 한 칸으로 만듭니다. 모르는 값은 확인 필요로 남깁니다.

가상 장비 가격이 360만 원이고 비교 기간이 36개월이라면 구매비를 월별로 나눈 값은 10만 원입니다. 여기에 전력과 관리 및 추가 저장 장치 비용을 더합니다. 이 금액은 실제 DGX 판매가나 회계상 감가상각비가 아닌 비교 연습용 계산입니다.

API 후보도 같은 업무량의 입력과 출력 및 도구 비용을 계산합니다. 가령 월 600회, 한 번에 입력 1,000토큰과 출력 200토큰이면 월 입력 60만 토큰과 출력 12만 토큰입니다. 각각 실제 서비스 단가를 적용한 뒤 추가 비용을 더합니다. 가격이 싸더라도 외부 전송이 허용되지 않는 자료라면 그 조건을 해결하기 전에는 사용 후보로 확정하지 않습니다.

다음에는 하루 20회를 200회로 바꿉니다. API 비용뿐 아니라 장비의 처리 대기와 동시 요청 및 전력도 다시 확인합니다. 장비가 이미 있다면 한 개의 지원 모델로 “교육은 11월 12일 2회의실입니다. 날짜와 장소만 추출하세요”를 입력해 두 항목을 대조하고, 오류와 전체 시간을 기록합니다.

📋 3줄 요약

1. DGX 스파크는 통합 메모리를 쓰는 소형 AI 컴퓨터이며 정확한 구성과 모델 및 소프트웨어의 지원부터 확인합니다.

2. 메모리 용량과 대역폭 및 제조사 연산 수치를 실제 작업의 응답 속도와 구분합니다.

3. 여러 대의 연결에는 분산 설정이 필요하며 명목 메모리 합계나 장비 수만으로 속도 향상을 보장하지 않습니다.

참고 자료

• NVIDIA DGX Spark 공식 사양
• NVIDIA 2025년 출하 발표
• ConnectX-7 연결 안내
• 2026년 2월 가격 변경 공지