[LLM] Qwen3.5 2B, 4B, 9B, 27B, 35B-A3B 구동 후기
홈서버·2026. 3. 16.
최근에 알리바바에서 Qwen3.5가 나왔다는 얘기를 들었고 여러 커뮤니티에서 꽤나 핫하다는 반응이 있었다. 예전에 게임이나 로컬LLM을 돌려보기 위해 엔비디아의 rtx4060ti 16GB를 구매했었고, 기존에 사용되던 gtx1060 3gb가 있었는데 마침 내 그래픽카드로 어느정도의 모델까지 돌릴 수 있으며 어느정도의 성능이 나올지 궁금하였다. 그래서 지난 일주일동안은 퇴근 후 매일 새벽 2시~3시까지 모델을 다운받고 테스트하며 내가 쓰기에 적합한 모델을 고르는 작업을 하였다. 모든 모델은 llama cpp를 통해 구동하였으며 모델의 다운로드는 허깅페이스(https://huggingface.co/)를 통해 진행하였다. Qwen3.5를 돌리면서 사용한 컴퓨터의 스펙은 아래와 같다.데스크탑 스펙 (i7-107..