맥북 AI 개발 장비를 고를 때 M5 Max와 RTX 5080 데스크톱 중 정답은 용도가 갈립니다. 70B급 추론만 돌린다면 M5 Max 128GB가 실시간이 되는 유일한 선택지고, 학습과 생태계까지 보면 2,579,000원짜리 RTX 5080 PC가 유리합니다. 아래에서 2026년 10월 실측 속도와 실제 가격으로 계산합니다.
맥북 AI의 물리: 메모리 대역폭이 토큰 속도를 결정한다
LLM 추론은 매 토큰마다 모델 가중치를 메모리에서 읽습니다. 체감 속도(token/s)의 상한은 ‘메모리 대역폭(GB/s) 나누기 모델 파일 크기(GB)’로 근사됩니다. 애플 공식 기술 사양 기준 M5 Max 40코어 GPU의 통합 메모리 대역폭은 614GB/s입니다. 같은 산식으로 70B Q4(파일 42.5GB)의 상한은 614 / 42.5 = 약 14.4 token/s이고, 이 글의 실측값 11.6 token/s는 KV 캐시와 커널 오버헤드를 반영해 그 안쪽에 정확히 위치합니다. RTX 5080은 GDDR7 대역폭이 이론상 더 높지만 VRAM이 16GB에 묶여 있어 같은 계산을 70B에 적용할 수 없습니다. 요약하면 ‘작은 모델을 더 빨리’는 RTX, ‘큰 모델을 아예 돌릴 수 있느냐’는 맥북 AI 쪽으로 물리 구조 자체가 갈립니다.
M5 Max 로컬 LLM 실측: ollama로 직접 돌린 11종 전체 결과
본 블로그가 M5 Max 128GB 장비에서 ollama API로 직접 측정한 전체 결과입니다(300토큰 생성 기준, 2026-10-13 기준). SIZE GB는 ollama 모델 파일 용량, TP/S는 생성 속도, PP/S는 프롬프트 처리 속도입니다.
| 모델 (ollama 태그) | SIZE (GB) | TP/S | PP/S |
|---|---|---|---|
| llama3.1:8b | 4.9 | 99.9 | 994.4 |
| deepseek-r1:8b | 5.2 | 93.0 | 431.9 |
| qwen3.5:9b | 6.6 | 79.0 | 595.0 |
| phi4:14b | 9.1 | 55.2 | 484.9 |
| gpt-oss:20b | 13.8 | 118.1 | 336.6 |
| mistral-small:24b | 14.3 | 35.4 | 621.1 |
| qwen3.8:27b | 17.7 | 43.6 | 151.3 |
| qwen3-coder:30b | 18.6 | 141.9 | 260.5 |
| qwen3.6:35b-a3b-coding-mxfp8 | 37.7 | 97.0 | 26.5 |
| deepseek-r1:70b | 42.5 | 11.6 | 123.4 |
| gemma4:26b-mlx-bf16 | 52.5 | 78.9 | 5.3 |
패턴이 두 개 보입니다. 첫째, MoE(활성 파라미터만 읽는 구조)가 압도적으로 빠릅니다. qwen3-coder:30b MoE는 18.6GB을 읽고 141.9 token/s를 내지만, 같은 급 dense인 qwen3.8:27b(16.7GB)는 43.6 token/s에 그칩니다. 읽는 양이 속도를 결정한다는 산식의 직접적 증거입니다. 둘째, 42.5GB 70B가 대화 가능한 11.6 token/s로 돕니다. 이 결과가 다음 표의 가격 비교와 직결됩니다.
16GB를 넘는 순간 사라진다: RTX 5080으로 못 도는 모델들
위 표에서 SIZE가 16GB를 넘는 모델은 gemma4:26b-mlx-bf16(52.5GB), deepseek-r1:70b(42.5GB), qwen3.6:35b-a3b(37.7GB), qwen3-coder:30b(18.6GB), mistral-small:24b(16.0GB 경계)입니다. RTX 5080 16GB는 이들을 단일 카드로 로드할 수 없고, 시스템 RAM으로 넘기면 속도가 자릿수 단위로 떨어집니다. 대역폭 우위는 로드된 모델에게만 해당하므로 비교 자체가 성립하지 않습니다. 12GB 카드 기준의 세밀한 한계는 RTX 5070 12GB 온디바이스 AI 한계 분석과 모델별 VRAM 기준표에서 확인하세요.
2026년 10월 가격표: M5 Max 128GB와 RTX 5080 풀빌드
맥북은 애플 한국 공식 사전주문 가격(2026-03 발표) 기준, 그래픽카드는 본 블로그 파이프라인이 추적한 다나와 최저가(2026-10-13) 기준입니다.
| 항목 | 가격 (원) | 기준 |
|---|---|---|
| MacBook Pro 16형 M5 Max 시작가 | 6,290,000 | 애플 한국 공식 (2026-03) |
| 동일 모델 128GB 증설 견적 | 8,040,000 | 공식 스토어 견적 집계 (2026-03) |
| MacBook Pro 14형 M5 Pro 시작가 | 3,490,000 | 애플 한국 공식 (2026-03) |
| M5 Max 40코어 GPU·128GB·8TB 중고 매물 | 8,044,527 | MacSa 실매물 등록가 (2026-07) |
| RTX 5080 16GB 최저가 | 2,579,000 | 다나와 파이프라인 (2026-10-13) |
| RTX 5080 풀빌드 추정 (CPU·보드·128GB RAM 포함) | 약 4,600,000 | 본 블로그 조립 견적 (2026-10) |
| RTX 3090 24GB 중고 | 2,100,000 | 다나와 파이프라인 (2026-10-13) |
| RTX 5090 32GB | 9,300,000 | 다나와 파이프라인 (2026-10-13) |
풀빌드 RTX 5080 PC(약 4,600,000원)와 M5 Max 128GB(8,040,000원)의 차액 3,440,000원은 RTX 3090 중고 한 장 plus 전기료 2년치에 해당합니다. 반대로 M5 Max 편은 노트북 일체형이라 모니터·키보드·UPS가 필요 없고, 소비전력이 데스크톱 풀빌드의 절반 미만이며 이동하며 동작합니다. 주간 최저가 변동은 10월 2주차 GPU 가격 주간표에서 추적 중입니다.
학습·생태계 기준에서는 왜 여전히 RTX인가
첫째, 학습은 추론보다 대역폭이 아니라 연산량과 VRAM 낭비(옵티마이저 상태)에서설계됩니다. AdamW 기준 학습 메모리는 추론의 약 4~6배라 70B 로컬 학습은 애초에 양쪽 다 무리고, 8B QLoRA는 16GB RTX에서 부드럽지만 MPS 경로 지원이 모델마다 깨집니다. 둘째, 서빙·학습 도구 생태계(vLLM, DeepSpeed, FlashAttention)가 CUDA를 전제로 릴리스되고, MLX는 잘 지원되는 모델 리스트가 별도로 존재합니다. 학내 서버·클라우드와 같은 코드를 돌려야 하는 사람에게는 호환성 리스크 그 자체입니다. 다만 GPU 대여로 해결되는 문제라면 Colab GPU 종류와 시간당 가격 비교처럼 클라우드 합산 비용으로 판단하는 편이 정확합니다.
그래서 맥북 AI로 몇 바이트짜리 노트북을 사야 하나
맥북 AI 구매가 정당해지는 경우는 세 가지로 좁혀집니다. 카페·출장 등에서 42.5GB급 모델을 배터리로 띄워야 하는 사람, 조용한 환경(데스크톱 풀빌드 소음 40dB대 이상 불가피)에서 상시 추론 데모를 돌리는 사람, 그리고 코딩 에이전트·로컬 어시스턴트를 24시간 켜두면서 가끔 학습은 클라우드에 맡기는 사람입니다. 반대로 학습이 주업이면 이 표 비교 대상이 아닙니다. RTX 5060 Ti 8GB(772,000원)부터 시작하세요. VRAM 보완 목적으로 외장 GPU를 얹던 옛 전략은 Apple Silicon에서 이미 폐기됐습니다(eGPU 현실 점검).
학생·연구실·직장인: 예산별 최종 결론
학생(총액 250만 원 이하): RTX 3090 중고(2,100,000원) 조립 PC. CUDA 생태계 전체가 열리고 paper 재현이 됩니다. 노트북이 당장 급하면 Colab 구독 + 기존 노트북 조합이 총비용에서 이깁니다(Colab 대 로컬 비용 비교). 연구실(400~800만 원): 공용 학습 장비는 RTX 5080(2,579,000원) PC 기본값, 실험·재현 검증까지 고려하면 하드웨어 규격 통일 자체가 유지보수비입니다. 직장인(이동성 우선): MacBook Pro M5 Max. 단 70B 실사용이 목적이라면 시작가 6,290,000원이 아니라 128GB 증설가 8,040,000원을 예산으로 확정하고 진입하세요.
자주 묻는 질문
M5 Max에서 70B 파인튜닝이 실제로 되나요
추론은 위 표대로 11.6 token/s로 가능하지만 파인튜닝은 옵티마이저 상태가 VRAM을 추론의 약 4~6배 잡아먹어 같은 카드 기준 비현실적입니다. 70B급 학습은 서버·클라우드 구간이고, 로컬 학습은 24GB RTX 3090 중고에서 LoRA로 시작하세요.
128GB가 꼭 필요한가요, 64GB로는 안 되나요
37.7GB MoE(qwen3.6:35b-a3b, 실측 97.0 token/s)까지는 64GB로 충분합니다. 42.5GB 70B와 52.5GB gemma4 BF16를 여유 있게 올리고 멀티 태스크까지 하려면 128GB가 맞습니다. 모델별 요구 용량 계산식은 모델별 VRAM 기준표에 있습니다.
대역폭이 더 빠른 RTX 5080이 70B에서 왜 밀리나요
대역폭 비교는 모델이 메모리에 온전히 올라간 경우에만 성립합니다. 42.5GB 파일을 16GB 카드에 올리면 계층 분할(offload)로 매 토큰마다 PCIe를 오가 체감 수 token/s 이하로 떨어집니다. 용량이 먼저, 대역폭은 나중입니다.
M5 Max 중고 감가는 심한 편인가요
MacSa 실매물 집계 기준 M5 Max 40코어 GPU·128GB·8TB 구성이 8,044,527원에 좋은 매물로 등록돼 있었습니다(2026-07). 신제품 공식가 대비 손실 폭이 이전 세대 MacBook 대비 작게 형성돼 있고, 128GB 구성은 매물 자체가 적어 시세 표본이 아직 얇습니다.
출처·기준: 애플 MacBook Pro(M5 Pro/M5 Max) 공식 기술 사양 지원 문서(대역폭 614GB/s, 2026-03), ollama 로컬 실측 11종 M5 Max 128GB(2026-10-13), 다나와 최저가 파이프라인(2026-10-13), 애플 한국 공식 사전주문 가격(2026-03), MacSa 중고 실매물 집계(2026-07). 추정치(풀빌드 견적)는 명시한 행만 해당합니다.
답글 남기기