로컬 LLM 토큰당 가격의 답부터 말하면, Claude Sonnet 5.5급 API(출력 $10/1M토큰)를 RTX 5070으로 대체하면 전기료 기준 백만 토큰에 68원으로 약 1/200, GPT-6 Astra급($50)이면 약 1/1,000까지 벌어진다. 이 글에서는 OpenAI·Anthropic·Google이 2026년 10월 공개한 공식 API 단가표, 자사 GPU 실측 속도, 10월 17일 국내 시세를 그대로 대입해 토큰 1개를 만드는 비용을 카드별로 계산하고, 월 사용량에 따라 그래픽카드 구매값이 몇 개월에 회수되는지 표로 정리한다.
로컬 LLM 토큰당 가격 계산식
기본 산식은 하나다. 토큰당 비용 = GPU 시간당 전기비용 / 초당 생성 토큰 수. 여기에 100만을 곱하면 백만 토큰(Mtok) 기준 단가가 나온다.
Mtok당 전기료(원) = 소비전력(kW) x 전기요금(원/kWh) / 토큰속도(tok/s) x 1,000,000 / 3,600예를 들어 RTX 5070 Ti(실측 평균 소비 0.25kW, qwen3-coder 기준 146.2 tok/s)에 저압주택용 근사 단가 100원/kWh를 대입하면: 0.25 x 100 = 25원/시간, 25 / (146.2 x 3,600) x 1,000,000 = 백만 토큰에 약 47원. 같은 식을 카드별로 적용한 게 아래 표다.
API 공식 단가표 — 1M토큰당 달러와 원화 환산
“로컬이 API의 1/100″이라는 말이 몇 배인지 확인하려면 기준 단가가 필요하다. 2026년 10월 17일 조회 기준 각사 공식 문서의 표준(Standard) 요금이고, 원화 환산은 서울외국환중개 매매기준율 1,348.50원(2026년 10월 16일)을 썼다.
| 모델 | 입력 $/1M | 출력 $/1M | 출력 원화 환산 |
|---|---|---|---|
| GPT-6 Astra (OpenAI) | $10.00 | $50.00 | 67,425원 |
| GPT-6.1 Sol (OpenAI) | $2.00 | $10.00 | 13,485원 |
| GPT-6 Luna (OpenAI) | $0.10 | $0.50 | 674원 |
| Claude Fable 5.1 (Anthropic) | $10.00 | $50.00 | 67,425원 |
| Claude Opus 5.5 (Anthropic) | $4.00 | $20.00 | 26,970원 |
| Claude Sonnet 5.5 (Anthropic) | $2.00 | $10.00 | 13,485원 |
| Claude Haiku 5.5 (Anthropic, 10만 토큰 이하) | $0.10 | $0.50 | 674원 |
| Gemini 4 Argon (Google, 11월 30일까지) | $2.00 | $10.00 | 13,485원 |
| Gemini 4 Argon (12월 1일부터) | $4.00 | $20.00 | 26,970원 |
포인트는 출력이 입력보다 5배 비싸다는 것이다. 에이전트처럼 출력·추론 토큰이 많은 작업일수록 API 청구액이 빨리 늘고, 로컬과의 격차도 커진다. Gemini 4 Argon은 12월 1일부터 단가가 정확히 2배로 오르므로, 연말 이후 비교에서는 아래 배율보다 격차가 더 벌어진다.
GPU별 실측 전기료 — 백만 토큰당 원화 환산
속도는 자사 실측·공개 벤치 인용 규칙(internetbench)을 그대로 따랐고, 모델 구성은 원글과 동일하다. 오른쪽 두 열은 이번 보강에서 추가한 백만 토큰 환산과, 위 표의 Sonnet급 출력 단가(13,485원) 대비 배율이다.
| 카드 | 소비(kWh/h) | 토큰속도 | Mtok당 전기료 | Sonnet급 대비 |
|---|---|---|---|---|
| RTX 5090 | 0.5 | 59 tok/s | 235원 | 1/57 |
| RTX 5080 | 0.35 | 92.8 tok/s | 105원 | 1/128 |
| RTX 5070 Ti | 0.25 | 146.2 tok/s | 47원 | 1/287 |
| RTX 5070 | 0.18 | 73 tok/s | 68원 | 1/198 |
| RTX 3090 중고 | 0.4 | 102 tok/s | 109원 | 1/124 |
| Mac M5 Max | 0.12 | 95.1 tok/s | 35원 | 1/385 |
전기요금 100원/kWh는 한전 주택용 근사 기준이고, 누진 구간이 올라가면 150원/kWh까지 본다. 그래도 결론은 뒤집히지 않는다 — 카드 최하위(RTX 5090, 235원)라도 Sonnet급 출력 단가의 1/57에 불과하다. 전기료 자체는 로컬 비용의 일부일 뿐, 정작 큰 축은 카드 구매값인데 그 계산이 다음 표다.
로컬 LLM 토큰 비용으로 보는 GPU 구매값 회수 기간
“로컬이 싸다”가 사실인지 확인하는 진짜 질문은 구매값을 언제 뽑느냐다. Sonnet급 API 출력(13,485원/Mtok)을 로컬로 100% 대체한다고 가정하고, 자사 시세 추적 2026년 10월 17일 국내 최저가(3090은 중앙값)로 계산했다. 회수 기간 = 카드 가격 / 월 절감액, 월 절감액 = 월 토큰량 x (13,485원 – 카드 전기료).
| 카드 (10/17 최저가) | 월 5M토큰 | 월 20M토큰 | 월 60M토큰 |
|---|---|---|---|
| RTX 5070 (1,159,000원) | 17.3개월 | 4.3개월 | 1.4개월 |
| RTX 5070 Ti (1,579,000원) | 23.5개월 | 5.9개월 | 2.0개월 |
| RTX 3090 중고 (2,079,750원) | 31.1개월 | 7.8개월 | 2.6개월 |
| RTX 5080 (2,249,000원) | 33.6개월 | 8.4개월 | 2.8개월 |
| RTX 5090 (9,049,000원) | 136.6개월 | 34.1개월 | 11.4개월 |
월 2,000만 토큰(챗 한 줄 평균 출력 500토큰 기준 하루 약 1,300회 분량)이면 RTX 5070은 4개월 만에 본전을 뽑는다. 반면 월 500만 토큰 미만이면 어떤 카드도 회수가 1년 이상이다. 주의할 전제: 이 표는 로컬 모델이 Sonnet급 품질과 같은 값을 가진다고 가정한다. 실제로는 9B~30B 로컬 모델이 그 품질을 못 채우는 경우가 많아서, 표는 “품질 동등 가정 하의 최소 회수선”으로 읽어야 한다.
로컬이 손해인 경우 — 저가 API 사용자는 사지 마세요
반대로 싸게 쓰는 사람은 로컬을 살 이유가 거의 없다. Claude Haiku 5.5와 GPT-6 Luna는 출력이 674원/Mtok(0.5달러)인데, RTX 5070 전기료 68원과 비교해 격차가 10배뿐이다. 월 2,000만 토큰을 Haiku급으로 쓰면 절감액이 월 12,000원 남짓 — RTX 5070 회수에 96개월, 카드 수명(4~5년)을 넘긴다. 정리하면 세 구간이다.
| 쓰는 API 등급 | 출력 단가 | 로컬 대체 판단 |
|---|---|---|
| Astra/Fable/Opus급 (26,970~67,425원) | 고가 | 월 5M토큰만 넘어도 로컬 회수 빠름 |
| Sonnet/Sol/Argon급 (13,485원) | 중간 | 월 20M토큰부터 확실히 이득 |
| Haiku/Luna급 (674원) | 저가 | 월 100M토큰 이하에선 API 유지가 유리 |
또 하나, 프롬프트 캐싱을 진지하게 쓰면 API 쪽 단가가 크게 내려간다. Haiku 5.5의 캐시 히트는 10원/Mtok(0.01달러)으로 어떤 로컬 카드보다 싸다. 반복 프롬프트가 많은 배치 작업은 토큰당 전기료 계산 글의 캐시 시나리오를 함께 보길 권한다.
예산별 구매 판단 — 학생, 연구실, 직장인
| 구간 | 추천 | 근거 |
|---|---|---|
| 학생 (월 API 지출 1만원 이하) | 로컬 구매 보류, Luna/Haiku급 API | 저가 등급 상대 회수기간이 카드 수명 초과. 12GB 이하 노트북으로도 GGUF 소모델은 로컬 LLM 실행표대로 돌아감 |
| 연구실 (월 API 지출 20만원 이상) | RTX 5070 Ti 또는 중고 3090 | Sonnet급 대체 기준 회수 5.9~7.8개월, VRAM 여유가 큰 쪽이 에이전트 병렬에 유리 |
| 직장인 개인 (월 5~10만원) | RTX 5070, 이미 PC면 eGPU보다 본체 업그레이드 | 회수 4.3개월, 10월 최저가 1,159,000원은 3주 전 대비 보합. 코랩 병행 여부는 코랩 vs 로컬 비용 비교 참조 |
자주 묻는 질문
로컬 LLM 토큰당 가격은 실제로 얼마인가요?
전기료만 기준으로 백만 토큰에 35~235원, 개당 0.000035~0.000235원이다. 같은 표의 Sonnet급 API 출력 단가 13,485원과 비교하면 1/57~1/385이고, 카드 구매값을 회수 기간으로 나눈 총비용까지 넣어도 월 2,000만 토큰 이상에서는 API보다 싸다.
GPT-6 Luna나 Haiku처럼 싼 API와 비교해도 로컬이 이득인가요?
아니다. 출력 674원/Mtok 등급에서는 격차가 10배 수준으로 줄어, 월 사용량이 1억 토큰을 넘지 않으면 카드값을 뽑지 못한다. 로컬의 경제성은 고가 추론 모델을 대체할 때 성립한다.
전기요금 말고 인터넷·관리 비용은 없나요?
있다. 이 계량의 전기료는 생성 순간의 한계비용이고, 카드 감가(4년 기준 RTX 5070은 월 약 24,000원)와 대기 전력, 관리 시간이 빠져 있다. 다만 API도 같은 토큰량에 대해 위 표 단가를 그대로 청구하므로, 비교의 기준이 대칭적이다.
Gemini 4 Argon은 언제부터 비싸지나요?
2026년 12월 1일부터 입력 $2에서 $4, 출력 $10에서 $20으로 두 배 인상된다(Google 공식 요금 페이지 기준). 12월 이후 구매를 고민한다면 Argon 대체용 로컬 구성의 회수 기간이 표보다 짧아진다고 보면 된다.
출처: OpenAI/Anthropic/Google 공식 API 요금 페이지(2026-10-17 조회), 서울외국환중개 매매기준율 1,348.50원(2026-10-16), 자사 GPU 실측 속도(internetbench 인용 규칙)와 시세 추적(2026-10-17, 최저가 기준). 전기요금 100원/kWh는 한전 주택용 근사치.
답글 남기기