GPU 시세 · VRAM · 온디바이스 AI

VRAM 32GB 그래픽카드에서 도는 로컬 LLM 전부 — 2026년 10월 실측 적합표

· 읽는 시간 5분 · 데일리 딥러닝

5090 32GB 유저용 최상단 단일 카드 구간.

32GB 그래픽카드 — 국내에서 살 수 있는 목록과 실구매가

“vram 32GB 그래픽카드”를 검색하는 사람이 국내 유통에서 실제로 살 수 있는 신제품은 사실 RTX 5090 한 종류입니다. 나머지 선택지는 중고 또는 workstation 카드입니다.

카드 현재가 (2026-10-15) 메모리 비고
RTX 5090 32GB 최저 6,819,000원 · 중앙값 9,535,110원 (n=6) 32GB GDDR7 유일한 신제품 32GB 카드
RTX A6000 48GB (중고) 수백만원대 — 매물 편차 큼 48GB GDDR6 직구·중고시장, 대역폭 768GB/s
RTX 4090 24GB (중고) 최저 3,736,000원 24GB GDDR6X 32GB는 아님 — 아래 대안 참조

5090이 예산 밖이면 32GB를 채우는 가장 싼 경로는 24GB 카드 2장(PCIe x8+x8 보드 필요)이거나 Mac 통합메모리입니다. 같은 논리로 24GB 구간을 정리한 글은 VRAM 24GB 그래픽카드에서 도는 로컬 LLM, 카드 간 가격 대비 용량 비교는 VRAM Fit Matrix에서 확인합니다.

모델 tok/s
(M5 Max 기준)
VRAM TTFT 출처
qwen3-coder:30b 146.2 18GB 4.3s 실측
laguna-xs-2.1:latest 126.0 18GB — 공개기록
nemotron-3.5-lightning:30b-a3b 114.9 25GB — 공개기록
gpt-oss:20b 102.9 13GB 14.2s 실측
llama3.1:8b 100.8 4.9GB 0.1s 실측
qwen3.6:35b-a3b 95.1 23GB 25.5s 실측
deepseek-r1:8b 79.7 5.2GB 44.4s 실측
qwen3.8:27b 73.2 17.7GB — 공개기록
qwen3.5:9b 73.0 6.6GB 0.1s 실측
phi4:14b 45.8 9.1GB 14.8s 실측
mistral-small:24b 28.0 14GB 18.2s 실측
muse-glimmer:30b-mlx 26.6 18GB — 공개기록

결론: 27B~30B Dense 권장 양자화까지 (4종 탈락). 그 위(70B/125B)는 다중 카드 또는 Mac 통합메모리 영역.

해당 카드 실거래: RTX 5090 32GB 실거래central 9,300,000원 (최저 8,899,990원, n=3)

시리즈 전체 — VRAM 8GB 그래픽카드에서 도는 로컬 LLM · VRAM 12GB 그래픽카드에서 도는 로컬 LL · VRAM 16GB 그래픽카드에서 도는 로컬 LL · VRAM 24GB 그래픽카드에서 도는 로컬 LL · Mac 통합메모리 64GB에서 도는 로컬 LLM · Mac 통합메모리 128GB에서 도는 로컬 LL · 내 카드에 뭐 돌아가나 — VRAM 용량별 로컬 · VRAM Fit Matrix

측정 기준

tok/s·VRAM·TTFT는 M5 Max 128GB(MLX/Ollama) 실측값입니다. NVIDIA 카드는 메모리 대역폭 기준으로 체감 속도가 달라지지만, “올라가는가/안 올라가는가”는 VRAM 용량만으로 결정되므로 이 표의 적합 판정은 그대로 적용됩니다. 속도 절대값이 궁금한 카드별 환산은 VRAM Fit Matrix에서. 시세는 다나와 여러 판매처 중앙값(한국 실거래)입니다.

답글 남기기