GPU 시세 · VRAM · 온디바이스 AI

중고 RTX 3090 24GB — 로컬 LLM 예산의 끝판왕인가? 10 개 모델 실측

· 읽는 시간 5분 · 데일리 딥러닝

210만원 중고를 사면 35B급 모델도 돌릴 수 있다고 주장하는 사람 많지만, 실제 실험해봤습니다.

RTX 3090 24GB 실측

모델 파라미터 속도 (tok/s) VRAM 판정
qwen3.5:9b 9B 102.1 6.6GB ✅ 초고속
gemma4:26b 26B 82.4 14.8GB ✅ 여유
qwen3.6:35b 35B 54.3 23GB ✅적정
deepseek-r1:70b 70B 15.8 43GB ❌ OOM (RAM 오프로드)
gpt-oss:20b 20B 95.6 13GB ✅ 여유
qwen3-coder:30b 30B 118.2 18GB ✅ 최고 속도
llama3.1:8b 8B 130.4 4.9GB ✅ 초초고속
phi4:14b 14B 78.3 9.1GB ✅ 여유
qwen3.5:9b 9B (Q8) 68.2 10.2GB ✅ 고품질
mistral-small:24b 24B 48.7 14GB ✅ 여유

중고 가격 대세

2026년 10월 기준 중고 3090는 180~210만원. 24GB VRAM은 12GB 대비 2배 크기이고, 실제 가격차이는 1.8배. GB당 가격은 8.8만원으로 5070 12GB (9.1만원)보다도 저렴합니다.

출처: daily-llm.com 시세 + 실측 데이터.

댓글 남기기