VRAM 20GB는 14B를 완전히 여유롭게, 24B를 Q4로 간신히 올리는 구간입니다. 대표 카드는 AMD RX 7900 XT 20GB입니다. 16GB에서 막히던 24B급이 손에 들어오지만 32B급은 여전히 멀어서, 애매하다는 평을 듣는 용량이기도 합니다. 숫자로 보면 애매한 게 아니라 명확한 쓰임새가 있습니다.
20GB에 들어가는 모델
Q4 양자화 기준 필요량입니다. 가중치에 KV 캐시와 활성화 메모리를 더한 값입니다.
| 모델 크기 | 가중치 | KV+활성화 | 합계 | 20GB에서 |
|---|---|---|---|---|
| 14B | 약 8.2GB | 약 4.5GB | 약 12.7GB | 여유 7.3GB |
| 24B | 약 14.0GB | 약 5.5GB | 약 19.5GB | 여유 0.5GB |
| 27B | 약 15.8GB | 약 5.8GB | 약 21.6GB | 불가 |
| 32B | 약 18.5GB | 약 6.3GB | 약 24.8GB | 불가 |
여유 0.5GB는 여유가 아닙니다. 다른 프로그램이 VRAM을 조금만 써도 넘치고, 넘기는 순간 속도가 한 자릿수로 떨어집니다. 20GB의 현실적인 주력은 24B가 아니라 14B입니다.
현실적인 운용은 이렇습니다. 14B를 주력으로 쓰면서 컨텍스트를 길게 가져가고, 24B는 짧은 작업에만 쓰는 방식입니다. 14B 기준 7.3GB가 남으므로 32K 이상 컨텍스트를 무리 없이 감당합니다. 16GB에서는 14B에 3.3GB만 남아 컨텍스트를 늘리기 빠듯한 것과 대조됩니다.
16GB 대비 실익은 무엇인가
흔한 오해가 20GB는 16GB와 거의 같다는 것입니다. 모델 등급으로는 둘 다 14B가 상한이니 맞는 말처럼 들립니다. 차이는 상한이 아니라 여유분에 있습니다.
| 항목 | 16GB | 20GB |
|---|---|---|
| 14B 적재 후 여유 | 약 3.3GB | 약 7.3GB |
| 실용 컨텍스트 | 짧게 유지 필요 | 길게 가능 |
| 24B Q4 | 오프로드 필요 | 간신히 가능 |
| 동시 실행 | 어려움 | 소형 모델 병행 가능 |
긴 문서를 요약하거나 코드베이스를 통째로 넣는 작업이면 이 여유가 곧 성능입니다. 짧은 질의응답만 한다면 16GB로 충분하고 20GB는 과지출입니다. 용도로 갈립니다.
가격으로 따지면 어느 쪽인가
2026년 10월 10일 국내 최저가 기준으로 16GB 구간을 보면 RTX 5070 Ti 16GB가 1,411,400원, RX 9070 XT 16GB가 1,450,000원입니다. GB당으로 환산하면 각각 1,411,400 ÷ 16 = 88,213원, 1,450,000 ÷ 16 = 90,625원입니다.
20GB 카드가 GB당 9만원 수준이라면 20 곱하기 90,000 = 180만원 선이 손익분기입니다. 그보다 비싸면 16GB 두 장이 아니라 24GB 한 장을 보는 편이 낫습니다. 24GB 구간에서는 중고 RTX 3090이 같은 날 1,403,765원으로 잡혔고 GB당 1,403,765 ÷ 24 = 58,490원입니다.
즉 중고 3090 24GB가 GB당 단가로는 20GB 신품보다 유리합니다. 20GB를 고를 이유는 단가가 아니라 신품 보증과 전력, 그리고 드라이버 안정성입니다.
AMD 카드라는 점은 문제가 되나
20GB 구간의 대표가 AMD라는 점은 짚고 가야 합니다. 로컬 LLM 실행 도구 대부분은 CUDA를 우선 지원하고 AMD는 ROCm이나 Vulkan 경로를 씁니다. 지원 범위가 넓어졌지만 최신 기능이 늦게 들어오는 경우는 여전합니다.
단순 추론만 한다면 실사용 차이는 크지 않습니다. 반면 학습이나 파인튜닝, 최신 양자화 포맷을 바로 써야 한다면 NVIDIA 쪽이 마찰이 적습니다. 용량만 보고 고르면 나중에 도구에서 막힐 수 있습니다.
20GB 구간을 실제로 쓰는 시나리오
용량만 나열하면 와닿지 않으니 작업 단위로 바꿔 보겠습니다.
| 작업 | 필요한 것 | 20GB에서 |
|---|---|---|
| 짧은 질의응답 | 8B~14B, 짧은 컨텍스트 | 과분함 |
| 긴 문서 요약 | 14B + 32K 이상 컨텍스트 | 적정 |
| 코드베이스 분석 | 14B~24B + 긴 컨텍스트 | 적정 |
| 고품질 한국어 생성 | 24B 이상 | 빠듯함 |
| 파인튜닝 | 24GB 이상 권장 | 부족 |
20GB가 빛나는 지점은 중간 크기 모델에 긴 컨텍스트를 붙이는 조합입니다. 16GB는 둘 중 하나를 포기해야 하고, 24GB는 둘 다 되지만 가격이 올라갑니다. 그 사이를 메우는 용량입니다.
반대로 말하면 긴 컨텍스트를 안 쓰는 사용자에게는 16GB와 차이가 없습니다. 자기 작업이 어느 줄에 있는지부터 확인하시면 지출 여부가 바로 결정됩니다.
지금 20GB를 사도 되나
타이밍 관점에서 한 가지 더 있습니다. 최근 14일 동안 16GB 카드 가격이 빠르게 내렸습니다. RTX 5070 Ti 16GB는 9월 27일 1,937,000원에서 10월 10일 1,411,400원으로 27.1% 하락했습니다.
이 하락이 20GB 구간 가격을 위에서 누릅니다. 바로 아래 용량이 141만원인데 20GB가 180만원을 넘으면 설득력이 떨어지기 때문입니다. 당장 필요한 게 아니라면 16GB 가격이 멈추는 시점을 확인한 뒤 결정하는 편이 유리합니다.
자주 묻는 질문
20GB면 32B 모델을 돌릴 수 있나요?
Q4 기준 약 24.8GB가 필요해 들어가지 않습니다. 32B급을 원하면 24GB 이상으로 가야 합니다.
24B가 계산상 들어가는데 왜 권하지 않나요?
여유가 0.5GB뿐이라 컨텍스트를 조금만 늘려도 넘칩니다. 넘치는 순간 속도가 한 자릿수로 떨어집니다.
16GB에서 20GB로 갈아탈 가치가 있나요?
긴 컨텍스트를 상시로 쓴다면 있습니다. 모델 등급은 그대로이므로 짧은 대화 위주라면 체감이 거의 없습니다.
AMD 20GB와 중고 NVIDIA 24GB 중에는요?
GB당 단가와 모델 상한 모두 24GB가 앞섭니다. 신품 보증과 소비전력을 중시한다면 20GB 신품이 선택지가 됩니다.
답글 남기기