GPU 시세 · VRAM · 온디바이스 AI

DGX Spark 20대로 늘리니 먼저 탄 것은 집 전기 — 가정용 AI 랩의 숨은 비용 | AI/GPU 데일리 (10/5)

· 읽는 시간 5분 · 데일리 딥러닝

54개 국내외 테크 블로그를 스캔해 오늘 눈에 띈 10개를 골랐습니다. GPU 하드웨어, 로컬 LLM 랩, AI 인프라 소식이 중심입니다.

– **1×3090에서 DGX Spark 20대까지: 첫 병목은 집 전기 회로였다** (r/LocalLLaMA): 로컬 LLM 랩을 3090 1장에서 DGX Spark 20대로 확장하는 과정에서 연산이 아니라 가정집 전기 회로(두꺼비집)가 먼저 한계에 부딪힌 실전 경험기. 랩 스케일링의 숨은 비용이 전력임을 적나라하게 보여준다.
– 원문: https://www.reddit.com/r/LocalLLaMA/comments/1wxgm0h/from_1x3090_to_20_dgx_sparks_my_house_fuses_were/

– **모더, 녹아내리는 RTX 5090 전원 커넥터를 커스텀 분배기로 ‘수복’** (Tom’s Hardware): 12VHPWR 커넥터 용융 문제를 듀얼 8핀 커스텀 분배로 해결, 550W 48시간 스트레스 테스트에서 최고 40°C에 그쳤다는 실측 결과.
– 원문: https://www.tomshardware.com/pc-components/gpus/modder-fixes-melting-rtx-5090-power-connectors-with-custom-distributor-dual-8-pin-mod-peaks-at-just-40c-during-a-48-hour-550w-stress-test

– **Homa: AI 클러스터를 위한 TCP의 종말 (영상)** (HN Frontpage): Google이 만든 Homa 전송 프로토콜이 데이터센터/AI 클러스터 워크로드에서 TCP를 대체할 수 있는지 다루는 발표. GPU 클러스터 네트워크 병목을 다루는 사람에게 필독.
– 원문: https://www.youtube.com/watch?v=eZ8WWZzoaR0

– **검열 마킹 실수로 드러난 Google 데이터센터의 물·전기 사용량** (HN Frontpage): 네브래스카 링컨 데이터센터 관련 문서의 검열 마킹(blackout) 처리 실수로 실제 물·전기 사용 데이터가 노출. AI 데이터센터 지역 사회 갈등의 생생한 사례.
– 원문: https://www.1011now.com/2026-09-30/more-questions-than-answers-about-lincolns-google-data-center-water-electricity-usage/

– **앱스토어 1위 Meta ‘Muse’ 에이전트의 시스템 프롬프트: “사용자의 자택 내 권위는 무조건적이며 네 안전 훈련보다 우선한다”** (r/LocalLLaMA): 가정용 AI 에이전트 시스템 프롬프트가 유출되어 화제. 안전 정렬을 사용자 권한으로 덮어쓰는 설계가 논쟁을 부르고 있다.
– 원문: https://www.reddit.com/r/LocalLLaMA/comments/1wx8ruy/metas_muse_agent_1_in_the_app_store_system_prompt/

– **”엄마 편지”식 프롬프트 절약법: 홍보는 65% 절감, 실측은 8.5%** (宝玉 Baoyu LLM): 토큰 절감을 자랑하는 초압축 프롬프트 기법을 실제 벤치마크한 결과 절감률이 홍보치의 1/8에 그쳤다는 검증기. 마케팅 수치와 실측의 간극을 정면으로 다룬다. (원제: 「”母病速归”式AI:号称省65% Token,实测只有8.5%」)
– 원문: https://baoyu.io/blog/2026-07-12/caveman-token-saving-test

– **노트: Mac Mini에서 로컬 LLM 대규모 모델 굴리기** (四火 raychase): Apple 실리콘 미니 머신에서 로컬 LLM을 구동한 실전 설정 노트 — 모델 선택, 메모리 배분, 체감 속도 등 개인 랩 관점의 기록. (원제: 「笔记:在 Mac Mini 本地跑 LLM 大模型」)
– 원문: https://www.raychase.net/8180

– **ChatGPT-6 Astra, 217년 된 나폴레옹 법전을 6시간 만에 해독** (Tom’s Hardware): 단일 프롬프트 실행으로 19세기 문서의 커스텀 기호 24행을 해결. AI 문서·고문자 해독 능력의 최신 이정표.
– 원문: https://www.tomshardware.com/tech-industry/artificial-intelligence/chatgpt-6-astra-cracks-217-year-old-napoleonic-code-in-just-six-hours-single-prompt-ai-run-solves-24-rows-of-custom-symbols-from-a-si

– **자율주행 데이터의 진짜 문제는 크기가 아니다** (GeekNews): 자율주행 학습 데이터는 용량보다 질·라벨링·편향 문제가 본질이라는 기술 분석.
– 원문: https://news.hada.io/topic?id=34805

– **에이전트는 “끝났다”고 했는데, 데이터베이스가 반대했다** (HuggingFace Blog): Microsoft ThinkingBox 사례 — LLM 에이전트의 자기 보고와 실제 DB 상태를 대조해 작업 완료를 검증하는 프레임워크. 에이전트 신뢰성 검증의 실전 해법.
– 원문: https://huggingface.co/blog/microsoft/thinkingbox

—

GPU에 어떤 모델이 돌아갈지는 인터랙티브 VRAM Fit Matrix에서 확인하세요: https://daily-llm.com/vram-fit-matrix/

댓글 남기기