딥러닝 GPU 용도별 VRAM 기준표 (2026년 9월판)

딥러닝 GPU를 고를 때 첫 질문은 성능이 아니라 적재량입니다. 같은 예산에서도 VRAM 12GB와 24GB는 실제로 올라가는 모델 크기 자체를 바꾸기 때문입니다. 이 글은 딥러닝 GPU 용도별 VRAM 기준표를 표와 산수로 정리하고, 각 줄에 예시 GPU를 붙였습니다.

용도별로 왜 VRAM이 다른가

학습은 VRAM 용량, 메모리 대역폭, 코어 순서로 병목이 걸리고, 추론은 VRAM이 곧 올릴 수 있는 모델 크기입니다. 이미지 생성은 8GB가 사실상 하한선이고, LLM은 가중치와 KV 캐시가 동시에 자리를 잡아야 돌아갑니다. 그래서 용도마다 최소·권장 수치가 다릅니다.

용도	최소 VRAM	권장 VRAM	주의할 점	예시 GPU
이미지 분류 학습 (transfer learning)	8 GB	12 GB	배치 크기가 VRAM에 비례	RTX 4060 8GB / 5060 Ti 16GB
Stable Diffusion / 영상 생성	8 GB	16 GB 이상	해상도를 올릴수록 VRAM 급증	RTX 4060 Ti 16GB
LLM 추론 (7~8B 양자화)	8 GB	12~16 GB	토큰 속도는 대역폭이 결정	RTX 5070 12GB
LLM 추론 (13~24B 4bit)	12 GB	24 GB	16GB 미만은 사실상 포기	중고 RTX 3090 24GB
3D Gaussian Splatting / 뉴래디언스	12 GB	24 GB	대형 장면은 24GB 필수	RTX 4090 24GB

LLM 로컬 실행에 필요한 VRAM 계산법

llama.cpp 계열 Q4_K_M 기준 가중치는 파라미터 1B당 약 0.61GB입니다. Windows에서는 CUDA 오버헤드를 빼면 명목 VRAM의 88%만 실제로 쓰입니다. 12GB는 약 10.6GB, 24GB는 약 21.1GB입니다. 이 두 수자로 계산하면 표가 나옵니다.

모델 크기 (Q4_K_M)	가중치 (B x 0.61)	KV 캐시 여유	합계 필요	최소 카드
8B	4.9 GB	3.0 GB	7.9 GB	12GB (가용 10.6GB, 여유)
12B	7.3 GB	3.3 GB	10.6 GB	12GB (가용 10.6GB, 딱 맞음)
24B	14.6 GB	6.5 GB	21.1 GB	24GB (가용 21.1GB)
70B	42.7 GB	4.0 GB	46.7 GB	48GB급 또는 2장 분할

여기서 갈림길은 12B와 24B 사이입니다. 24B는 합계 21.1GB로 12GB 카드에는 가중치(14.6GB)만으로도 들어가지 않고, 70B는 48GB 단일 카드의 가용분(42.2GB)보다 먼저 필요(46.7GB)하므로 컨슈머 단일 카드에서는 애초에 성립하지 않습니다. 5070 12GB로 어디까지 되는지는 RTX 5070 VRAM 12GB 실전 한계에서 더 자세히 계산했습니다.

Stable Diffusion에는 몇 GB인가

SD 1.5 기반 512px 생성은 8GB로 굴러갑니다. 다만 SDXL 1024px에 배치 4 이상, LoRA 학습, 영상 생성으로 넘어가면 필요량이 곧장 16GB 이상으로 뜁니다. 이 구간에서 8GB 카드는 오류 대신 생성이 잘리는 방식으로 말없이 실패하므로, 이미지 용도라면 시작부터 16GB를 권합니다.

학습 입문 PC에는 어떤 GPU가 맞나

신규 구매로 학습 입문이라면 RTX 4060 Ti 16GB가 가장 합리적인 지점입니다. SD 기본 해상도 생성과 7B 파인튜닝 정도는 버티고, 시스템 RAM도 32GB 이상을 붙이세요. 단 대역폭이 288GB/s라 큰 배치 학습이나 빠른 추론에서는 한계가 명확합니다. 연산 속도가 급한 게 아니라 적재량이 급한 초보에게는 용량이 먼저입니다.

연구실 예산별 현실 선택지

• 저예산: 중고 RTX 3090 24GB — 예산의 절반으로 24GB를 같은 자리에 넣는 유일한 답
• 중간: RTX 5060 Ti 16GB(느리지만 깊음) 또는 RTX 5070 12GB(빠르지만 얕음) — 용도 우선순위로 선택
• 고예산: RTX 4090 24GB, 재고 소진 시 5090 — 24GB에 대역폭 1TB/s급을 같이 확보

2026년 가격, 표의 숫자를 언제 갱신하나

2026년 9월 4주차 기준 실시간: RTX 5070 1,383,800원 · RTX 5060 Ti 8GB 801,200원 · RTX 3060 12GB 540,300원 (다나와 실매물 중앙값 · 매일 09:00 자동 수집). 위 표의 VRAM 판정은 가격과 무관하게 유지되고, 가격만 이 문단으로 매주 갱신됩니다. 주간 GB당 분석은 가격추적 위클리에서 계속됩니다.

자주 묻는 질문

VRAM이 크면 학습도 비례해서 빨라지나요?

아닙니다. 용량은 몇 개를 얹을 수 있는지를 정하고, 속도는 대역폭과 코어가 정합니다. 중고 3090은 4090과 용량은 같지만 속도는 한 세대 뒤집니다. 표에서 두 축을 분리해서 읽으세요.

12GB 카드로 파인튜닝이 되나요?

7B급 LoRA가 상한입니다. 전학습이나 13B 이상 파인튜닝은 옵티마이저 상태까지 자리를 잡아 24GB가 필요하므로, 목적이 학습이면 3090/4090급으로 시작하는 게 견적 낭비가 없습니다.

노트북에도 같은 기준표를 적용해도 되나요?

그대로 적용하면 안 됩니다. 노트북 GPU는 같은 모델명이라도 TGP에 따라 데스크톱의 60~80% 성능이고, VRAM도 축소 모델이 많습니다. 노트북은 개발과 추론, 학습은 서버라는 전제로 VRAM 8GB 이상과 RAM 32GB 이상을 최소선으로 보세요.

출처·기준: llama.cpp Q4_K_M 가중치 1B당 0.61GB와 CUDA 오버헤드 12% 차감(88% 가용)은 5070 실측 칼럼과 동일 가정, 가격 구간은 나무위키 RTX 50 문서·다나와 기준 2026년 5월 집계, GPU 스펙은 제조사 공개 자료 기준. 실질 가격은 변동하므로 구매 전 최신 시세를 확인하세요.

.