openrouter

로컬을 돌리면서 든 의문이전 글에서 RTX4060Ti 16GB 환경에서 Qwen3.5 35B-A3B Q3와 9B Q4를 벤치마크로 비교해보았다. 그런데 테스트를 하면서 한 가지 의문이 들었다. 이걸 굳이 로컬에서 돌려야 하나? 벤치마크를 돌리는 데만 일주일 넘게 걸렸고, 그동안 전기를 계속 사용했다. 같은 모델을 OpenRouter 같은 API 서비스에서 쓰면 비용이 얼마나 차이가 나는지 궁금해졌다. 로컬 전력 비용기존에는 멀티탭에 연결된 다른 기기들까지 포함되어 전력량이 높게 잡혔었다. 데스크탑 단독으로 다시 측정해 본 결과, 아이들(Idle) 상태에서는 약 160W, 추론 시에는 약 275W를 소모하는 것으로 나타났다. PC를 24시간 켜두고 하루 평균 6.5시간 정도 추론을 돌린다고 가정해 보자...