‘토큰 단가’ = 카드 값을 지속 aggregate 생성 속도로 나눈 값. 같은 돈으로 얼마나 많은 토큰을 뽑아내는지의 1차 지표입니다 (속도 실측: gigagpu RTX 4090 8B 벤치 크로스 비교, 가격: 다나와 실매물/당 사이트 브리핑).
| 카드 | 가격 (2026-09) | 8B aggregate tok/s | 토큰 단가 (1,000tok당, 원) |
|---|---|---|---|
| RTX 3090 24GB (중고) | 2,490,000원 (다나와 중고 7몰 중앙) | 950 (AWQ, b32 실측) | 2.62원 |
| RTX 4090 24GB (중고) | 3,560,000원 (당 사이트 브리핑 시세) | 1,100 (FP8, b32 실측) | 3.24원 |
| RTX 5090 32GB (신규) | 8,699,990원 (다나와 중앙) | 1,700 (b32 실측) | 5.12원 |
| RTX 5060 Ti 16GB | 801,200원은 8GB 모델 기준 — 16GB는 시세 미추적 | 720 (b32 실측) | 1.11원 (8GB 기준) |
3090의 진짜 값은 24GB × 확장성
- 두 장으로 48GB — 70B Q4_K_M (약 40GB)이 들어가는 최저 경로. 합계 498만원으로 5090 한 장(870만원)보다 싸고 aggregate는 3090×2가 앞섭니다 (dual 3090 70B 17 tok/s 커뮤니티 표준).
- 전성비는 3.3 tok/J로 5090(3.4)과 거의 동급 — 전기로는 손해가 없습니다.
- 시세: 다나와 중고 등록 249만원 (7몰), 당근 개인거래는 75만원짜리도 보이지만 개중 불량 섞인 가격입니다. 중국 도매 호가 $325는 10장 이상 MOQ 기준.
- 리스크: 채굴 이력 발열 이력 — 팬 베어링·서멀 재도포 비용을 10~20만원 잡으세요.
전기는 얼마 안 나옵니다 — 상세 계산은 전기세 vs API.
2026-09-28 작성 · 파일 크기는 Hugging Face 라이브 목록 실측, 속도는 출처 명시된 공개 측정과 제 실측만 사용 · 로컬 실행 없음 · 전체 허브 보기 · 양자화 사다리 104빌드 · 47종 생성 속도 차트
댓글 남기기