결론부터: 카드가 아니라 창고 문제
중국에서 Kimi K3가 터지고 있습니다. Moonshot의 2.8조 파라미터 오픈웨이트 모델 — 중국 커뮤니티에선 “오픈소스 최고 코더” 평가가 상위 고정입니다. 한국 검색어로 넘어오는 건 시간문제고, 넘어오는 순간 다들 같은 질문을 합니다: “내 기계에 도나?”
답은 메모리 장벽입니다. Unsloth이 극한 압축한 1-bit 양자화 GGUF가 594GB — 물리적으로 human이 만들 수 있는 최저선이 이겁니다. 컨텍스트 131K 얹으면 +12GB 더.
594GB를 한국 실거래가로 환산하면
| 루트 | 금액 | 현실 |
|---|---|---|
| 중고 3090 24GB × 25장 | 약 5,030만원 | 속도는 6.5 tok/s×25 — 밤 배치용 |
| DDR5 640GB (32GB×20) | 약 1,590만원 | 1~2 tok/s — 참고용 창고 |
| API (K3 공식) | 수만원/월 | 99% 개인에 정답 |
3090 중개 median 201.1만원 (당근 실거래 추적, 2026-10-04). DDR5는 32GB 79.6만원 실거래 기준 GB당 약 2.5만원 × 640GB. 두 수치 모두 사이트에서 매일 자동 갱신.
클릭될 줄은 이겁니다: 3090 25장 조립(5,030만원)보다 DDR5 랙(1,590만원)이 3배 싸다. 단 속도는 반대 방향으로 10배 차이. “K3를 채팅으로 쓴다”는 계산은 아직 안 나오고, 밤에 도는 게임이어야 맞습니다.
지금 지갑으로 K3급을 쓰는 법 (실측)
M5 Max 128GB 3주 실측과 붙여보면 계급이 보입니다:
- 4090 24GB: GPT-OSS-120B MoE가 47 tok/s — “K3급 평의 90%”를 오늘 쓸 수 있는 최소 카드
- M5 Max 128GB: Qwen 32B급 70.3 tok/s — 72B는 버겁고 32B가 실사용선
- 3090 중고: GLM-4.7-Air급 MoE가 목표 — 100~150만원 대의answer
K3는 이 위에 딱 한 단계 있고, 그 한 단계의 값이 3~5배로 뜁니다.
왜 지금 중국 얘기가 중요한가
중국 DIY 커뮤니티 이번 주 1위 주제는 “램이 4배 올라 조립 견적이 무너졌다”입니다. 한국도 같은 흐름이고, DDR5 32GB가 이미 80만원대입니다. K3가 확실히 한 건 하나: 로컬 LLM의 병목이 VRAM에서 전체 메모리로 옮겨갔습니다. 창고 값 상승 속도가 모델 경량화 속도보다 빠른 한, 다음 화제는 “램 사치세”입니다.
K3는 API로 써보세요. 로컬은 개인정보·오프라인·야간 배치 같은 분명한 이유가 생긴 다음 장바구니에 넣어도 늦지 않습니다.
M5 Max 3주 실측 원본: M5 Max 16개 모델 실측 · 당근 시세 갱신: VRAM 1GB당 최저가 재순위 · 중고 3090/4090 판단표: 사도 되나 재계산편
댓글 남기기