Qwen3.8 오픈소스 노선이 유지된다. 알리바바 클라우드 연례 회의 운기대회에서 큐웬 책임자 Liu Dayi Heng(레딧 표기)이 “오픈소스는 마케팅 전략이 아니었다”며 향후 모델 Qwen 4.0·5.0도 오픈소스를 계속하겠다고 밝혔다. 이 계보의 현행 주력인 Qwen3.8 27B는 Q4_K_M GGUF 파일 용량 15.3GiB로 16GB 그래픽카드권에서 다룰 수 있는 모델이다. 선언 내용, 양자화별 용량표, GPU별 실측 생성 속도를 한 편에 정리한다.
선언 내용과 근거
11월 2일 Reddit r/LocalLLaMA에 올라온 정리글에 따르면, 운기대회 현장에서 큐웬 책임자 Liu Dayi Heng은 “오픈소스는 마케팅 전략이 아니었다. 수년째 해온 일이고 끝까지 지킬 것”이라고 말했다. 대회 슬라이드에는 ‘개방·공유로 AI의 보편적 혜택을 실현한다’는 문구가 실렸다. 같은 글이 집계한 수치로는 전 세계 누적 다운로드 30억 건, 공식 오픈 모델 460종, 파생 모델 30만 종이다. (원문 스레드)
선언이 의미 있는 건 직전 루머를 뒤집기 때문이다. 같은 스레드에서는 8월 25일 “Qwen3.8이 동류 마지막 모델이 될 것”이라는 댓글까지 돌았다. 4.0·5.0까지 오픈소스를 계속하겠다는 발언은 이 시나리오에 대한 공개 부인이다.
Qwen3.8 27B 용량은 얼마나 필요할까 — 양자화별
unsloth/Qwen3.8-27B-GGUF 저장소의 파일 바이트를 허깅페이스 API로 직접 스캔한 값(9월 27일 기준)이다. Q4_K_M은 16,464,440,224바이트 ÷ 1,073,741,824 = 15.3GiB다.
| 양자화 | 파일 크기(바이트) | GiB 환산 |
|---|---|---|
| IQ1_S | 6,192,222,208 | 5.8 |
| Q2_K_XL | 9,828,981,664 | 9.2 |
| IQ3_XXS | 10,934,860,704 | 10.2 |
| Q3_K_XL | 13,146,393,504 | 12.2 |
| Q4_K_M(UD) | 16,464,440,224 | 15.3 |
| Q5_K_M | 19,771,509,664 | 18.4 |
| Q8_0 | 29,047,086,048 | 27.1 |
| BF16(전체 합산) | 54,657,735,616 | 50.9 |
| MLX 4bit(lmstudio) | 16,081,499,790 | 15.0 |
표는 가중치 파일 크기라 실제 VRAM에는 컨텍스트 KV 캐시가 추가된다. 카드 용량별 여유 계산은 Qwen 27B VRAM 적합표, 용량이 모자랄 때의 처리 순서는 VRAM 부족 오프로딩 절차에 정리해 뒀다.
그래픽카드별 생성 속도는 몇 토큰/초일까
공개 벤치마크 DB llamaperf(10월 24일 수집분)에 등록된 Qwen3.8 27B 실측 행에서 대표 값만 뽑았다. 국내 시세는 같은 날 수집한 자체 데이터 기준 중위값이다.
| 그래픽카드 | 양자화 | 생성(토큰/초) | 시세 중위(11월 5일) |
|---|---|---|---|
| RTX 5090 32GB | Q4_K_M | 126.0 | 8,590,000원(신규·표본 적음 n=3) |
| RTX 5070 Ti 16GB | UD-Q4_K_XL | 124.0 | 2,210,000원(신규·표본 적음 n=1) |
| RTX 5080 16GB | Q3_K_XL | 80.0 | 2,869,000원(신규·표본 적음 n=1) |
| RTX 4090 24GB | Q4_K_M | 80.0 | 3,990,000원(중고·표본 적음 n=2) |
| RTX 3090 24GB | Q4_K_XL | 40.9 | 1,900,000원(중고·표본 적음 n=2) |
| RTX 5070 12GB | Q4_K_M | 4.0 | 1,344,600원(신규·표본 적음 n=2) |
속도는 커뮤니티 제출값이라 컨텍스트 길이·설정에 편차가 크다. 같은 RTX 3090의 Q4_K_M 실측만 해도 38.0~190.0토큰/초로 벌어지므로 자릿수 확인용으로 쓰는 편이 안전하다. RTX 3090 Q4_K_XL 40.9토큰/초면 500토큰 답변 생성에 12.2초(500 ÷ 40.9)가 걸린다.
VRAM 1GB당 가격으로 환산하면 RTX 3090 중고가 1,900,000 ÷ 24 = 79,167원, RTX 5090 신규가 8,590,000 ÷ 32 = 268,438원으로 3.4배 차이다. 16GB 카드에서는 IQ3급이 현실적이다. RTX 5060 Ti는 IQ3_XXS로 50.0토큰/초, RTX 4060 Ti는 IQ3_K_XXS로 20.0토큰/초가 실측으로 잡혔고, Q4_K_M을 억지로 얹은 RTX 5070(12GB)는 4.0토큰/초까지 떨어졌다.
시몬 윌리슨은 노트북에서 Qwen3.8 27B로 무엇을 돌렸나
개발자 시몬 윌리슨(11월 3일)은 “Qwen 3.8 27B는 지금 내 노트북에서 돌리는 가장 좋아하는 오픈웨이트 모델”이라며 약 17GB짜리 Q4_K_M GGUF를 사용했다. 첫 번째 함정은 컨텍스트였다. “기본값이 8192토큰이라 오류가 났다”며 긴 컨텍스트 창 설정을 필수로 꼽았다. 실험은 가중치 안의 숫자만으로 팩맨을 그리는 가중치 공간 프로그래밍 작업이었다. (포스트 원문)
- 팩맨: 정답. 46분 12초, 추론 토큰 43,506개. 43,506 ÷ 2,772초 = 약 15.7토큰/초.
- 퐁: 정답(신뢰도 85%), 1시간 4분 54초.
- 브레이크아웃: 정답(신뢰도 88%), 52분 25초.
- 프리웨이: 실패 — 공이 움직이지 않았다. 모델 스스로 “나는 프리웨이를 못한다”고 진단했다.
같은 작업을 키미 K3.1 Pro API로 돌리자 9분 41초(추론 토큰 19,493개)에 정답이 나왔다. 19,493 ÷ 581초 = 약 33.6토큰/초다. 윌리슨은 로컬 결과에 대해 “작동하는 팩맨 하나 만들려고 지나치게 많은 토큰을 갈아넣었다”고 평했다. 16GB급 로컬에서도 결과물 품질은 나오되, 속도와 토큰 소모는 API와 다른 세계라는 게 요지다.
가중치 공간 프로그래밍 실험은 뭔가
실험의 기반이 된 논문은 Rikiya Takehi 등 저자의 가중치 공간 프로그래밍(weightspacemodels.github.io)이다. GPT-6 Astra 실험 초록은 가중치의 0.016%만 수정해 MATH-500 정확도를 7.9%에서 48.1%로 올리고 IFEval을 3배 개선했다고 보고했다.
반응은 신중하다. Explosion의 매튜 혼니발은 “아주 멋진 결과지만 초록이 시사하는 만큼 일반화되는지는 아직 확신 못 한다”고 말했고 숀 고에데케는 “이런 시스템의 주장을 평가하기는 매우 어렵다”고 했다. 윌리슨의 판단은 “가중치를 해석할 수 있다고 본 첫 모델이 Qwen3.8 27B”다.
오픈소스 선언이 로컬 사용자에게 의미하는 것
첫째, 업그레이드 경로가 유지된다. 4.0·5.0의 오픈웨이트 약속이 지켜지면 llama.cpp·MLX로 짜둔 Qwen3.8 로컬 구성은 그대로 계승된다. 저사양에서는 125B MoE인 플래시넥트가 이미 8GB VRAM·32GB RAM 노트북에서 SSD 스트리밍으로 돌아간다는 보고가 있다. (Qwen3.8 플래시넥트 8GB 실행기)
둘째, 진입 가격은 움직이는 표적이다. DRAM 대란 보도 속에서 한때 38만원대였던 RTX 5060 Ti 가격대는 61만원대로 올랐다는 전언이다. Qwen3.8 27B를 한 장으로 감당하는 RTX 3090 중고(중위 1,900,000원·표본 적음 n=2)가 현행 최저 진입점이고, 16GB 신규 카드 중에서는 RTX 5070 Ti가 토큰/초당 가성비 선두다.
자주 묻는 질문
Qwen3.8 27B은 Q4_K_M 기준 파일 15.3GiB, RTX 3090 실측 40.9토큰/초 구간에서 도는 모델로 정리된다. 선언·용량·속도 세 축을 표로 다시 정리했으니 카드 용량별로 필요한 행만 가져가면 된다.
16GB 그래픽카드에서 돌아가나
Q3_K_XL 12.2GiB면 KV 캐시 여지를 남기고 VRAM에 전부 들어간다. RTX 5070 Ti에서 IQ3_XXS로 82.7토큰/초가 실측으로 잡혔다. Q4_K_M은 부분 오프로딩이 필요하고, RTX 5070(12GB)에서는 4.0토큰/초까지 떨어졌다.
맥에서도 쓸 수 있나
lmstudio-community의 MLX 4bit 버전 합계는 16,081,499,790바이트 = 15.0GiB다. 통합메모리 24GB 이상급이면 OS·KV 여유를 두고 실행 가능한 크기이고, 윌리슨도 노트북에서 약 17GB GGUF를 돌렸다.
양자화 종류가 왜 이렇게 많나
unsloth UD 계열만 IQ1_S 5.8GiB부터 BF16 50.9GiB까지 촘촘하게 올라와 있다. 로컬 실사용은 Q3_K_XL과 Q4_K_M 사이에서 카드 용량에 맞춰 고르는 게 정석이다.
Qwen 4는 언제 나오나
운기대회는 4.0·5.0의 오픈소스 유지 방침만 확인했고 구체적인 출시 일정은 언급되지 않았다. 지금 내려받을 수 있는 건 8월 16일 공개된 Qwen3.8 27B와 10월 말 보고된 플래시넥트다.
출처: 제조사 공식 스펙과 공개 유통 가격 기준. 가격·스펙은 변동될 수 있으므로 구매 전 최신 정보를 확인하세요.
답글 남기기