SPEC COMPARISON
RTX 5090은 LLM 추론에서 RTX 4090보다 평균 72% 빠르지만, 모델이 VRAM 24GB에 다 들어가는 작업에서는 격차가 19~38%로 줄어듭니다. 진짜 갈림길은 성능 수치가 아니라 32GB VRAM과 1,792GB/s 대역폭이 필요한 작업인지 여부입니다. 2026년 10월 시세로 신품 5090은 600만원, 중고 4090은 328만원부터라, 예산에 따라 답이 완전히 달라집니다.
RTX 5090과 RTX 4090 스펙 차이: 무엇이 바뀌었나
| 항목 | RTX 5090 (Blackwell) | RTX 4090 (Ada) | 차이 |
|---|---|---|---|
| 출시 | 2025년 1월 | 2022년 9월 | – |
| CUDA 코어 | 21,760 | 16,384 | +33% |
| Tensor 코어 | 680 (5세대) | 512 (4세대) | +33% |
| VRAM | 32GB GDDR7 | 24GB GDDR6X | +33% |
| 메모리 대역폭 | 1,792GB/s | 1,008GB/s | +78% |
| 메모리 버스 | 512-bit | 384-bit | +33% |
| FP32 연산 | 104.8 TFLOPS | 82.6 TFLOPS | +27% |
| INT8 연산 | 3,352 TOPS | 1,321 TOPS | +154% |
| 부스트 클럭 | 2,407MHz | 2,520MHz | -4% |
| TBP (전력) | 575W | 450W | +28% |
| 출시가 | 1,999달러 | 1,599달러 | +25% |
코어 수는 33% 늘었는데 클럭은 오히려 4% 낮습니다. 즉 세대 간 성능 향상의 원동력은 클럭이 아니라 대역폭입니다. 1,792 / 1,008 = 1.78배. LLM 추론처럼 메모리 병목이 먼저 오는 작업에서 5090의 이점이 크게 나타나는 이유입니다. 반대로 연산 밀도가 높은 작은 CV 모델은 이 격차를 다 느끼지 못합니다.
딥러닝 실측: 작업별 RTX 5090 성능 격차는 얼마인가
아래는 timm 벤치마크(FP16, 배치 256)와 Ollama 추론 실측을 정리한 것입니다(2025년 2월 기준, Ryzen 9 9950X 시스템, torch.compile 미사용).
| 작업 (FP16) | RTX 4090 | RTX 5090 | 5090 우위 |
|---|---|---|---|
| resnet50 학습 (img/s) | 1,361 | 1,624 | +19% |
| swin-base 학습 (img/s) | 597 | 822 | +38% |
| efficientvit_m4 학습 (img/s) | 3,811 | 7,310 | +92% |
| llama3.1 8B 추론 (tok/s) | 122 | 211 | +73% |
| qwen2.5 32B 추론 (tok/s) | 38 | 63 | +65% |
| phi4 14B 추론 (tok/s) | 78 | 130 | +67% |
규칙이 보입니다. 배치 전체가 VRAM에 들어가는 단순 CV 학습은 +19~38%에 그치고, 메모리 사용량이 크거나 배치를 키울 수 있는 작업은 +65~92%까지 벌어집니다. RunPod 실측에서도 512토큰·배치4에서는 4090이 1,847 vs 2,529 tok/s(+37%)로 근접하지만, 1,024토큰·배치8에서는 4,077 vs 5,798(+42%)로 격차가 벌어지고, 최대 구성(5090 7,198 tok/s)에서는 4090이 VRAM 한계에 먼저 닿습니다. 결론: 5090의 값어치는 “같은 작업을 몇 % 빨리”가 아니라 “원래 못 돌리던 배치·컨텍스트를 돌린다”에 있습니다.
VRAM 24GB와 32GB, 체감 경계선은 어디인가
LoRA 파인튜닝 기준 7B 모델은 두 카드 모두 배치를 넉넉히 돌릴 수 있습니다. 문제는 14B 이상입니다. 14B 모델의 FP16 가중치는 약 28GB(매개변수 14B x 2바이트)로 4090의 24GB를 넘지만 5090의 32GB에는 들어갑니다. 4090에서는 이 초과분을 RAM으로 offload하는데, PCIe 전송 속도가 VRAM 대비 1/25 수준이라 추론 속수가 수분의 일로 떨어집니다. 추론용 양자화라면 계산이 달라집니다. 32B 모델 INT4 가중치는 약 18GB(32B x 0.5바이트)라 두 카드 모두에서 돌아가고, 여기에서 컨텍스트 KV 캐시와 배치가 얹히는 순간 32GB가 유리해집니다. LLM 학습 시 AdamW 옵티마이저는 가중치 1개당 FP32 상태 2개를 추가로 요구하므로(약 8바이트/매개변수), 풀 파인튜닝은 두 카드 모두 7B급에서 한계에 닿습니다.
2026년 10월 시세: 신품 5090 vs 중고 4090, GB당 가격으로 붙이기
| 카드 | 오늘 최저가 | 중위가 | VRAM 1GB당 |
|---|---|---|---|
| RTX 5090 32GB (신품) | 600만원 | 909만원 | 18.8만원 |
| RTX 4090 24GB (중고) | 328만원 | 368만원 | 13.7만원 |
| RTX 5080 16GB (신품) | 217만원 | 268만원 | 13.6만원 |
| RTX 3090 24GB (중고) | 149만원 | 208만원 | 6.2만원 |
다나와 실측(2026-10-01 기준)입니다. 600만원 / 32GB = 18.8만원, 328만원 / 24GB = 13.7만원으로, GB당 가격만 보면 중고 4090이 여전히 이깁니다. 문제는 시세 방향입니다. 2026년 8월 엔비디아가 RTX 50 시리즈 권장가를 최대 30% 인상하면서 5090은 국내에서 한 달에 최대 150만원 올랐고, 5090 가격은 2025년 9월 420만원대에서 2026년 3월 620만원대로 우상향이었습니다. 4090은 단종되어 물량이 줄어드는 쪽이라, “지금이 싼가”를 묻는다면 5090은 아니라는 답이 나옵니다. 전체 11종 비교는 10월 GPU 시세 총정리, 중고 판단은 중고 3090·4090 재계산 글에서 확인하세요.
24시간 돌렸을 때 전기세와 파워: 5090의 유지비 계산
TBP 차이가 575 – 450 = 125W입니다. 24시간 상시 가동 기준 0.125kW x 720시간 = 월 90kWh, 누진세 구간(150~250원/kWh)에서 월 1만3,500~2만2,500원입니다. 연 20만원 안팎이라 전기세 자체는 결정적이 아닙니다. 실제로 문제는 파워입니다. 5090 시스템은 시스템 전체 1,000W 이상 파워와 12V-2×6 커넥터를 요구하므로, 4090용 850W 파워를 그대로 쓰면 교체가 필요합니다. 파워 교체비 15~25만원까지 예산에 넣으세요. VRAM 용량 대비 전기 효율이 궁금하다면 VRAM GB당 가격 순위를 함께 보세요.
누가 RTX 5090을 사고 누가 4090으로 충분한가
학생(예산 350만원 이하): 5090은 후보가 아닙니다. 중고 4090 328만원이 최선이고, 200만원 이하라면 중고 3090 24GB(GB당 6.2만원)가 여전히 최저가 VRAM입니다.
연구실(예산 600만원 이상): 팀원 중 14B 이상 풀 파인튜닝이나 롱컨텍스트 추론을 하는 사람이 있다면 5090 한 장이 4090 두 장보다 운영이 단순합니다(모델 분산 없이 한 카드). 반대로 실험 병렬성이 우선이면 5080 + 중고 3090 조합이 총 처리량에서 이기는 경우가 많습니다.
직장인(취미·서버 겸용): 상시 서빙 목적이면 5090의 대역폭이 체감됩니다. 주 목적이 12B 이하 추론과 이미지 생성이면 5070 Ti 16GB(158만원)로 예산을 돌리는 게 합리적입니다.
자주 묻는 질문
4090을 쓰는데 5090으로 업그레이드할 가치가 있나요?
작업이 VRAM 24GB에 항상 들어간다면 없습니다. CV 학습 격차가 +19~38% 수준이라 체감이 작습니다. 14B 이상 모델을 offload 없이 올리거나 배치를 2배로 키워야 한다면 업그레이드가 아니라 “처음부터 가능해지는” 변경이라 가치가 있습니다.
VRAM 32GB는 실제로 언제 필요한가요?
14B 모델 FP16(가중치 약 28GB), 32B INT4 + 긴 컨텍스트 + 배치 8 이상, 7B 풀 파인튜닝에 AdamW(FP32 상태 포함 약 8바이트/매개변수)를 쓸 때입니다. LoRA 위주라면 16GB에서도 대부분 돌아갑니다.
중고 5090은 지금 사도 되나요?
국내 중고 매물은 아직 드물고, 해외 기준으로도 신품 대비 할인폭이 작습니다(미국 eBay 신품 4,899달러 vs 중고 3,822달러, 2026년 10월 기준). 국내 신품 최저가 600만원과 비교해 20% 이상 차이가 나지 않으면 보증이 있는 신품이 낫습니다.
5090에 맞는 CPU와 파워는 무엇인가요?
파워는 시스템 전체 1,000W 이상, 12V-2×6 커넥터 지원 제품을 쓰세요. CPU는 학습 위주라면 코어 수보다 PCIe 레인과 메모리 대역폭을 만족하는 최신 데스크톱급(Ryzen 9급)이면 충분하고, 데이터 로딩이 병목인 작업만 코어 수를 올리면 됩니다.
출처/기준: 다나와 가격비교 실측 2026-10-01, timm·Ollama 벤치마크(Computer Vision Lab, 2025-02), RunPod 추론 실측, ZDNet Korea 2026-08 보도. 가격은 작성일 기준이며 매일 변동합니다.
댓글 남기기