PUBLIC MEASURED DATA
같은 모델(Qwen3.8 27B, Q4)을 각 카드에서 돌린 인터넷 공개 실측치를 한 표로 모았습니다. llamaperf.com 커뮤니티 리포트 중 ‘단일 카드·단일 요청·추론 가속 없음’ 조건만 골랐고, 저희가 직접 돌린 수치도 아닙니다 — 원본 링크는 아래 FAQ에 있습니다. 기준일 2026-10-21, 오늘 시세는 다나와 자사 추적치입니다.
| GPU | 생성 속도(공개 실측) | 리포트 수 | 오늘 시세 | 10만원당 tok/s |
|---|---|---|---|---|
| RTX 5090 32GB | 73.2 tok/s | 5건 | 1,054만원 | 0.7 |
| RTX 5070 Ti 16GB | 53.0 tok/s | 1건 | 199만원 | 2.7 |
| RTX 3090 24GB | 36.4 tok/s | 3건 | 123만원 | 3.0 |
| RTX 4090 24GB | 31.5 tok/s | 2건 | 368만원 | 0.9 |
| RTX 5060 Ti 16GB | 28.8 tok/s | 2건 | 미등록 | — |
눈에 띄는 두 가지: 5090이 4090보다 2.3배 빠르지만(73.2 vs 31.5), 4090 중고가 3090보다 느리게 나온 건 표본 차이입니다(각 2건·3건, KV 양자화와 오프로드 설정이 리포트마다 다름). 실측치 표본이 작을 땐 순위를 곧이곧대로 믿지 마세요. 가격 효율(10만원당 tok/s)으로는 중고 3090이 1위(3.0), 5070 Ti가 바짝 뒤를 잇고, 12GB 미만 카드는 이 표에 들어올 수조차 없습니다 — 27B Q4가 안 올라가요.
저용량 카드 사용자를 위한 별도 공개 실측: RTX 3060 12GB에서 Gemma 4 8B Q4가 45 tok/s, Qwen2.5 7B가 49 tok/s(각 plain run)로 reported됐습니다. 12GB에서 도는 모델 전체 속도표는 12GB LLM 속도 허브에 있습니다.
자주 묻는 질문
실측치 출처가 어디인가요?
A. llamaperf.com의 GPU별 커뮤니티 리포트 페이지(llamaperf.com/gpu/rtx-5090 등 6개)에서 ‘plain run'(단일 디바이스·단일 요청·speculative decoding 없음)으로 분류된 값만 가져왔습니다. 수집 원본과 URL 목록을 파일로 보관 중입니다.
직접 돌린 게 아닌가요?
A. 아닙니다. 이 블로그는 로컬 벤치를 실행하지 않고, 인터넷에 공개된 실측 수집치만 인용합니다. 조건이 다른 리포트(멀티 GPU, 오프로드, 추론 가속)는 표에서 제외했습니다.
4090이 3090보다 느린 게 가능한가요?
A. 표본 2~3건이면 가능합니다. KV 캐시 양자화, 컨텍스트 길이, CPU 오프로드 여부에 따라 같은 카드도 20% 이상 차이납니다. 표본 수가 적을수록 ‘순위가 비슷한 정도’로만 해석하세요.
가성비 1위는 어디인가요?
A. 오늘 시세 기준 10만원당 tok/s는 중고 3090 구간이 최상위입니다. 다만 전기세(TDP 350W)와 팬·발열 관리 비용이 따라붙으니 총소유비용은 전기세 표도 함께 보세요.
답글 남기기