GPU 시세 · VRAM · 온디바이스 AI

,

중고 RTX 3090 vs 새 RTX 5070 — 2026년 실측 시세로 끝내는 24GB 논쟁

· 읽는 시간 5분 · 데일리 딥러닝

오늘(2026-09-27) 실측 시세로 중고 시장이 뒤집혔습니다: 새 RTX 5070 중앙값 1,399,000원,
중고 RTX 3090은 번개장터 FE 매물 기준 180만원 선 — 새 카드가 중고보다 싼 가격표입니다.
남은 질문은 성능이 아니라 단 하나, 24GB가 당신에게 필요한가입니다.

가격표가 이미 뒤집혔다 — 근거와 함정

구분 RTX 5070 12GB (새것) RTX 3090 24GB (중고)
실측 호가 1,399,000원 1,800,000원
출처·날짜 다나와 실측 2026-09-27 번개장터 FE 매물 / 커뮤니티 110~200만
보증 정식 유통 3년 없음 — 재수리 예산 별도
36개월 월 상각 38,861원 45,833원 (150~180만 중간)

커뮤니티 시세 편차가 큽니다. 5월 게시글은 110만원을 언급하고 퀘이사존 9월 스레드는 200만원을 말하지만, 오늘 번개장터에 실제 등록된 FE 매물은 180만원입니다. 3090을 산다면 이 실매물가에 중고 수리·서멀 재작업비 4~5만원을 더한 금액이 실제 총비용입니다. 5070 쪽엔 보증 3년이 포함돼 있다는 점도 같은 저울에 올려야 합니다.

사양: 코어 격차는 2배, 그러나 용량 격차가 결론이다

항목 RTX 3090 (2020) RTX 5070 (2025)
VRAM 24GB GDDR6X 12GB GDDR7
대역폭 936 GB/s 672 GB/s
FP16 Tensor 35.58 TFLOPS 126 TFLOPS
FP8 부동소수점 미지원 지원 (캐시 8bit 경로)
NVLink 지원 (2장 48GB) 미지원 (최종 지원 세대)
TDP 350W 250W
Q8 14B (가중치 약 14GB) 상주 가능 오프로드 필수

FP16 텐서는 5070이 3.5배지만, 메모리 대역폭은 3090이 오히려 1.39배 앞섭니다(936 대 672). Q8 양자화 14B 모델은 가중치만 약 14GB — 5070의 12GB에는 얹을 자리가 없어 CPU 오프로드가 필수가 되고 속도는 반토막이 납니다. 3090은 그 자리에 KV 캐시까지 남습니다. 연산이 아니라 적재가 승부를 가르는 구간이 실제로 존재합니다.

추론 속도·전기료 — 산식을 공개합니다

월 비용 (24시간 추론 기준) RTX 3090 RTX 5070
월 전기료 (350/250W) 37,800원 27,000원
월 생성량 (Q4 14B) 40M tok 59M tok
전기료당 생산성 935원/M 457원/M
차액 회수 — 전기료만 월 10,800원 절약

산식: 전기료 = W x 0.6(평균 텐서 부하) x 720시간 x 250원/kWh. 생성량 = t/s x 86,400 x 30일 x 0.6(가동률). 추론 t/s는 공개 벤치 기준 Q4 14B 단일 스트림(3090 26, 5070 38)이며 llama.cpp 계열 런타임 실측치입니다. 5070은 백만 토큰당 전기료가 457원으로 3090보다 51% 쌉니다.

NVLink — 3090의 단 하나의 초강점

애퍼는 NVLink가 지원된 마지막 소비자 세대입니다. 3090 두 장을 연결하면 48GB로 32B급 모델 추론이 네트워크 없이 GPU 안에서 끝납니다. 다만 대역폭이 합쳐지지 않고 병목은 그대로라 학습용으로는 수동 분할 설정이 필요하며, 애드온 보드·케이스·전원 여유를 함께 계산해야 합니다. 2장 구성 총비용(약 360만원)은 새 5090(656만원)의 절반으로 48GB를 만드는 유일한 현역 경로입니다.

누가 무엇을 사야 하나

  • 14B 이하 추론·가벼운 파인튜닝만: 새 5070. 싸고, 빠르고, 보증 있고, 전기세가 쌉니다.
  • Q8 14B 상주, 24GB가 작업 최소 단위: 중고 3090 + 서멀 재작업 예산 5만원.
  • 32B 추론을 로컬에서: NVLink 3090 2장. 그 외 경로는 5090 아니면 클라우드입니다.
  • 애매한 선택지: 24GB가 필요하지만 직접 조립이 부담이면 차라리 4060 Ti 16GB로 시작하고 클라우드를 병행하세요.

자주 묻는 질문

Q. RTX 5070에서 Q8 14B는 불가능한가요?
A. 오프로드로는 돌아갑니다. 다만 CPU-RAM 왕복이 병목이 되어 단일 스트림 속도가 크게 떨어집니다. Q4(약 9GB)를 쓰면 12GB 안에서 끝납니다.

Q. 중고 3090 구매 시 무엇을 확인하나요?
A. GDDR6X 온도입니다. VRAM 온도가 100도를 넘긴 개체는 서멀 패드 교체가 필수이고, 예산을 처음부터 가격에 반영해야 합니다. 구매 전 FurMark 10분 + nvidia-smi 온도 로그를 요구하세요.

Q. NVLink 3090 두 장이면 48GB 학습이 되나요?
A. 추론은 가능합니다. 학습은 분할 전략 수동 설정(텐서 병렬 또는 파이프라인)이 필요하고, 대역폭 한계로 총처리량은 카드 1장 대비 1.6~1.9배에서 포화됩니다.

응답

  1. 중고 3090 vs 4060 Ti 16GB 학습 승부 (2026년 9월) – 데일리 딥러닝 아바타

    […] 이상 매물이 끌어올린 숫자라 그대로 믿으면 안 됩니다. 제가 직전 글 중고 3090 vs 새 5070에서 정리한 대로 거래 가능한 실용 구간은 150만~180만원이고, 여기에 서멀 […]

    좋아요

댓글 남기기