3060 12GB·5070 12GB 유저용. 12GB는 ‘8B 여유, 14B 아슬아슬’ 구간입니다.
| 모델 | tok/s (M5 Max 기준) |
VRAM | TTFT | 출처 |
|---|---|---|---|---|
llama3.1:8b |
100.8 | 4.9GB | 0.1s | 실측 |
deepseek-r1:8b |
79.7 | 5.2GB | 44.4s | 실측 |
qwen3.5:9b |
73.0 | 6.6GB | 0.1s | 실측 |
phi4:14b |
45.8 | 9.1GB | 14.8s | 실측 |
결론: 9B~14B급 Q4가 실전 한계 (12종 탈락). 3060 12GB는 GB당 4.5만원대로 여전히 최저가 진입로입니다.
해당 카드 실거래: RTX 3060 12GB 실거래central 540,300원 (최저 532,000원, n=6) · RTX 5070 12GB 실거래central 1,344,600원 (최저 1,089,000원, n=14)
시리즈 전체 — VRAM 8GB 그래픽카드에서 도는 로컬 LLM · VRAM 16GB 그래픽카드에서 도는 로컬 LL · VRAM 24GB 그래픽카드에서 도는 로컬 LL · VRAM 32GB 그래픽카드에서 도는 로컬 LL · Mac 통합메모리 64GB에서 도는 로컬 LLM · Mac 통합메모리 128GB에서 도는 로컬 LL · 내 카드에 뭐 돌아가나 — VRAM 용량별 로컬 · VRAM Fit Matrix
측정 기준
tok/s·VRAM·TTFT는 M5 Max 128GB(MLX/Ollama) 실측값입니다. NVIDIA 카드는 메모리 대역폭 기준으로 체감 속도가 달라지지만, “올라가는가/안 올라가는가”는 VRAM 용량만으로 결정되므로 이 표의 적합 판정은 그대로 적용됩니다. 속도 절대값이 궁금한 카드별 환산은 VRAM Fit Matrix에서. 시세는 다나와 여러 판매처 중앙값(한국 실거래)입니다.
댓글 남기기