RTX 3090의 BF16 텐서 처리량은 펌웨어가 반속으로 묶어둔 값이었습니다. 10월 24일 공개된 gpu-unlock 프로젝트가 그 제한을 부팅 단계에서 해제하고, RTX 3090 BF16 실측이 75→125 TFLOPS(+65%)로 뛰었습니다. 이 글은 해제 원리, 실제 빨라지는 작업, 그리고 중고 3090가 중앙값 123만원까지 떨어진 지금 구매 가치가 있는지를 한 번에 정리합니다.
왜 RTX 3090의 BF16은 반속이었나
NVIDIA는 GeForce 전 라인업에서 FP32 누산을 쓰는 FP16/BF16/TF32 텐서 연산의 명령 발행 속도를 절반으로 제한해 왔습니다. 같은 GA102 칩을 얹은 RTX A6000 등 전문 카드가 전속도로 동작하는 것과 비교되는 지점으로, 개발자는 FAQ에서 이유를 “비제한 전문 카드 판매를 위한 시장 세분화(market segmentation)”라고 명시했습니다. GA102 아키텍처 화이트페이퍼상 RTX 3090의 FP16 텐서 성능은 FP16 누산 142 TFLOPS, FP32 누산 71 TFLOPS로 표기돼 있는데, BF16은 후자(반속) 레이트로 동작합니다. 즉 스펙표에 이미 인쇄된 제한이지 버그가 아닙니다. 커뮤니티에서는 드라이버가 스스로 보고하는 값(FMLA32 = 1/2)이 이 제한의 근거라는 분석도 나왔습니다.
gpu-unlock은 무엇을 하는 도구인가
Linux용 커널 모듈(GPL-2.0)로, NVIDIA 드라이버가 붙기 전 initramfs 단계에서 카드 펌웨어를 한 번 실행해 속도 선택 레지스터를 바꿉니다. 패치 드라이버도 아니고 VBIOS 플래싱도 아니라서, 새 드라이버가 나와도 다시 할 작업이 없습니다. 부팅 후 서스펜드로 카드 전원이 꺼지면 모듈이 해제를 자동 복원합니다. GitHub stars 14.9k, fork 1.4k(11-03 기준)의 오픈소스이며, 개발자는 가짜 사이트·코인·설치 프로그램은 전부 프로젝트와 무관하다고 경고했습니다.
| 세대 | 대상 모델 | 상태 |
|---|---|---|
| Ampere (RTX 30) | 3050, 3060, 3060 Ti, 3070, 3070 Ti, 3080, 3080 Ti, 3090, 3090 Ti, 3070/3080 랩톱 | Stable, 사용자 보고 100건+ |
| Ada (RTX 40) | 4060, 4070 계열, 4080(SUPER), 4090(D) 등 | Experimental |
| Turing (RTX 20) | 2060~2080 Ti, Titan RTX | Experimental |
| Blackwell (RTX 50) | – | 미지원, 지원 가능성 낮음 |
RTX 3090 BF16 실측 상승폭 — 75→125 TFLOPS
프로젝트 README가 정리한 FP32 누산 조밀 행렬곱(GEMM) 실측입니다. 기준은 각 카드의 정전력 제한 그대로, 해제 전후 비교입니다.
| 카드 | 해제 전 BF16 | 해제 후 BF16 | 상승률 |
|---|---|---|---|
| RTX 3060 12GB | 27 TFLOPS | 51 TFLOPS | +87% |
| RTX 3060 Ti | 37 TFLOPS | 68 TFLOPS | +82% |
| RTX 3070 | 40 TFLOPS | 72 TFLOPS | +81% |
| RTX 3080 10GB | 65 TFLOPS | 113 TFLOPS | +73% |
| RTX 3090 | 75 TFLOPS | 125 TFLOPS | +65% |
| RTX 3090 Ti (450W) | 88 TFLOPS | 157 TFLOPS | +80% |
| RTX 4070 Ti | 81 TFLOPS | 150 TFLOPS | +84% |
| RTX 4080 | 104 TFLOPS | 193 TFLOPS | +87% |
| RTX 4090 | 165 TFLOPS | 329 TFLOPS | +100% (피크) |
3090는 125 − 75 = 50 TFLOPS가 늘어 상승률 +65%입니다. 2배에 못 미치는 이유는 전력 한계로 추정됩니다. RTX 4090처럼 전력이 먼저 바닥나는 카드는 피크 발행 속도가 2배(329 TFLOPS)가 돼도 실제 조밀 GEMM은 그만큼 안 늘어난다는 단서가 README에 달려 있습니다. Tom’s Hardware(10-26)도 같은 프로젝트를 다루며 4090 피크 텐서 속도 2배, 3090 Ti 매트릭스 연산 최대 +80%를 보도했습니다.
LLM 추론 속도 — 프리필은 오고 디코드는 그대로
README가 정리한 실워크로드 상승률입니다.
| 작업 | 상승률 |
|---|---|
| LLM 프리필(vLLM, Transformers, AWQ/GPTQ 포함) | +25~55% |
| 첫 토큰까지 시간(TTFT) | 25~30% 단축 |
| LoRA·전체 파인튜닝(BF16) | +25~50% |
| 이미지 생성(SDXL, SD 1.5 등 FP16/BF16) | +30~55% |
| 비디오 생성(Wan 2.2) | +15~20% |
| FlashAttention / SDPA 커널 | +50~60% |
| LLM 토큰 생성(디코드) | 거의 변화 없음 |
디코드가 안 빨라지는 이유는 산수로 보입니다. 토큰 생성은 연산량보다 메모리 대역폭에 묶이는 구간이라 3090의 936 GB/s가 그대로 상한입니다. 예를 들어 Q4_K_M 양자화 14B 모델(가중치 약 9GB)의 이론 상한은 936 / 9 = 약 104 tok/s, FP16 8B(약 16GB)는 936 / 16 = 약 58 tok/s입니다. 텐서코어 발행 속도는 이 경로에 관여하지 않습니다. 반대로 긴 프롬프트를 한 번에 처리하는 프리필은 연산 중심이라 +25~55%가 그대로 체감됩니다. 즉 이 해제는 학습·생성용이지 채팅 속도 업그레이드가 아닙니다.
설치 방법과 리스크
Linux 전용입니다. 패키지 설치 후 커널 명령줄에 gpu_unlock.targets=로 대상 PCI ID를 지정하면 initramfs가 부팅마다 해제합니다. 확인은 journalctl -k -b | grep gpu_unlock 한 줄이면 됩니다. Windows는 비공식 커뮤니티 포트(Windows-GPU-UNLOCK)가 있을 뿐이고, 랩톱은 유휴 시 dGPU 전원이 꺼지면 해제가 풀려 NVreg_DynamicPowerManagement=0x00 설정으로도 결과가 모델마다 다릅니다. 하이버네이션은 미대상이며, 펌웨어 단계가 멈추지 않으면 전원을 완전히 내리기 전까지 재시도가 제한됩니다. 펌웨어를 만지는 작업인 만큼 A/S 판단은 구매자 몫입니다.
지금 중고 RTX 3090을 사면 답인가 — 예산별 기준
자체 시세 파이프라인 11월 3일 15:01(KST) 수집 기준입니다. 중고는 판매 호가이고 표본이 하루 1~4건으로 적어 편차가 큽니다.
| 카드 | VRAM | 최저가 | 호가 중앙값 | GB당 단가(중앙값) |
|---|---|---|---|---|
| RTX 3090 (중고) | 24GB | 1,231,000원 | 1,231,000원 (n=1) | 51,292원 |
| RTX 5070 (신규) | 12GB | 1,198,770원 | 1,344,600원 (n=13) | 112,050원 |
| RX 9070 XT (신규) | 16GB | 1,215,200원 | 1,519,000원 (n=8) | 94,938원 |
| RTX 5070 Ti (신규) | 16GB | 1,579,000원 | 2,003,000원 (n=7) | 125,188원 |
| RTX 4090 (중고) | 24GB | 3,240,000원 | 3,708,333원 (n=3) | 154,514원 |
| RTX 5080 (신규) | 16GB | 2,106,020원 | 2,922,000원 (n=9) | 182,625원 |
GB당 단가만 보면 중고 3090(1,231,000 / 24 = 51,292원)이 RTX 5070(112,050원)의 절반 이하로 전체 1위입니다. 여기에 BF16 해제까지 얹으면 24GB VRAM에 125 TFLOPS급 학습 성능이 120만원대에 확보됩니다.
- 학생(예산 150만원 이하): 중고 3090 + gpu-unlock이 최선책입니다. 단 Linux를 직접 다루고 채굴 이력을 걸러야 하므로 중고 그래픽카드 체크리스트를 먼저 읽으십시오. 이번 주 3090 급락의 전 과정은 GPU 시세 위클리에 정리돼 있습니다.
- 연구실(예산 400만원대): 중고 3090 2장(약 246만원)과 중고 4090 단일(371만원)의 기로입니다. Ampere 해제는 Stable, Ada 해제는 Experimental이므로 무인 학습장비라면 검증된 3090 다장이 안전합니다. CUDA/파이토치 조합은 PyTorch CUDA 버전표 기준으로 잡으세요.
- 직장인(신규 구매): RTX 5070 Ti 이상을 사면 됩니다. Blackwell은 해제 대상이 아니고 지원 가능성도 낮다는 게 개발자 답변이라, 신규 카드 구매자는 애초에 이 글을 신경 쓸 필요가 없습니다.
자주 묻는 질문
Q. RTX 3090에서 BF16이 아예 안 되던 건가요?
아닙니다. 동작은 하되 절반 속도로 돌아왔습니다. GA102 화이트페이퍼가 FP32 누산 기준 71 TFLOPS 레이트로 명시한 제한이고, gpu-unlock은 그 명령 발행 속도만 풀었습니다. FP16 누산을 쓰면 원래부터 전속도였지만 학습 프레임워크 기본값이 FP32 누산 경로라 대부분 반속으로 돌리고 있었습니다.
Q. Windows에서도 되나요?
공식 프로젝트는 Linux 전용입니다. 커뮤니티 포트가 있으나 개발자는 결과 보장 불가(YMMV)라고 선을 긋고, 검증 안 된 인스톨러는 조심하라고 권합니다. Windows 학습 환경이라면 사실상 이번 업데이트의 혜택 밖입니다.
Q. 로컬 LLM 채팅 속도가 빨라지나요?
토큰 생성(디코드)은 거의 그대로입니다. 디코드는 메모리 대역폭 936 GB/s가 상한이라 텐서 속도 해제가 그 경로를 타지 않기 때문입니다. 빨라지는 건 긴 문서 요약·RAG처럼 입력이 긴 프리필 구간(+25~55%)과 이미지 생성입니다.
Q. 지금 중고 3090을 사도 되나요?
Linux로 학습·파인튜닝을 돌릴 계획이라면 GB당 51,292원(11-03 중앙값)에 BF16 125 TFLOPS를 얻는 조합은 현존 최고 가성비입니다. 반대로 Windows 사용자이거나 채팅 추론만 한다면 해제 효과가 없으니 RTX 5070 Ti나 대역폭이 넓은 카드를 비교하세요.
출처·기준: gpu-unlock README v2.0.0(GitHub, stars 14.9k, 11-03 조회), NVIDIA GA102 아키텍처 화이트페이퍼, Tom’s Hardware 10-26 보도, 자체 시세 파이프라인 gpu_prices.json(2026-11-03 15:01 KST, 중고는 판매 호가 기준).
답글 남기기