GPU 시세 · VRAM · 온디바이스 AI

맥에서 로컬 LLM + 텔레그램 연동 — M5 에서 텔레그램 봇 직접 구축하는 법

· 읽는 시간 5분 · 데일리 딥러닝

맥에서 로컬 LLM 실행 + 텔레그램 봇 연동하는 komplett 가이드입니다. Python 15줄로 끝납니다.

필요환경

  • Mac M5 (또는 M4) 32GB 이상
  • Ollama 설치
  • 텔레그램 봇 토큰 (BotFather에서 발급)
  • Python 3.11+

구축 단계

  1. Ollama 설치: brew install ollama
  2. 모델 다운로드: ollama pull qwen3.5:9b
  3. Python 라이브러리: pip install python-telegram-bot openai
  4. 스크립트 작성 (코드 15줄)
  5. 테스트: 텔레그램에서 봇에 메시지 보내기

실측 속도

M5 Max 128GB에서 qwen3.5:9b: 73 tok/s. 텔레그램 대시보드에서 즉시 응답.

출처: daily-llm.com 내부실측 데이터.

댓글 남기기