24년도에 ai 찍먹하기 위해 구매했던 4060ti를 라데온 r9700로 변경하였다.
4060ti가 vram 16gb로 적당히 덜 똑똑한 버전의 모델까지는 사용 가능했지만 그 이상의 것은 사용이 어려웠다.
실제 SOTA급 모델 외에 로컬에서 돌릴 수 있는 모델 중 qwen3.6 27b가 최고라는 얘기를 들었고, 과연 얼마나 똑똑할까가 궁금했다.
점수로는 알겠는데 그래서 내가 일상 생활에서 평소 쓰는대로 쓸 수 있는가? 그게 관건이었다.
그래서 구매하려고 이것저것 찾아본게 7900xtx나 r9700이었다.
rtx5080은 성능은 나쁘지 않은데 vram이 16gb로 대상에서 제외하였고, rtx5090은 650~700만원쯤 하여 가격이슈로 제외하였다.
7900xtx, r9700 둘 다 vram이 4060ti보다 높았다. (7900xtx는 24gb, r9700은 32gb)
대역폭은 7900xtx가 960GB/s, r9700이 640GB/s 이다.
물론 7900xtx가 r9700보다 높다고는 하지만 r9700도 대역폭이 낮은건 아니다.
rtx4060ti가 288GB/s니까 2배 넘게 차이가 나는 샘이다.
고민을 굉장히 많이 했다.
7900xtx는 대역폭이 높아서 r9700보다 훨씬 빠른 토큰을 만들어내지만, 현재 매물도 별로 없고,
vram이 r9700보다 8gb나 낮아서 조금 더 큰 사이즈의 양자화는 어려웠다.
그리고 무엇보다 신품은 찾기 어렵고 대부분 다 중고였다.
중고가가 대략 90~100사이로 r9700보다는 저렴했다.
r9700은 대역폭은 낮지만 7900xtx보다 더 높은 램을 가졌기에 더 큰 양자화도 할 수 있었다.
가격은 거진 240으로 비싸지만 신품을 구할 수 있다는거?
그래서 그냥 미래를 보고 r9700을 택하였다.
알리나 다른 쇼핑몰이 230~235정도 되었는데 추후 문제 생겼을때를 대비하여 컴퓨존에서 구매했다.
토스페이 계좌할인 된다고 해서 해봤는데 200만원 이상은 계좌결제 안된대서 생돈주고 구매했다.
아침에 주문하고 저녁때 바로 배송이 와서 장착하였다.
생각보다 사이즈가 작았다.
하지만 rtx4060ti보다는 조금 더 묵직했다.
세팅을 완료하고 qwen3.6 27b q8로 살짝 깔짝여봤는데 생각보다 괜찮다. (vram이 부족해서 얼마 안 되는 8192 컨텍스트로..)
전력 소모량은 평소 아이들 전력이 140w였고, 4060ti 풀로드 시 300w대로 사용되었던 것 같다.
r9700은 qwen3.6 27b q8 로드 시 거의 470w가까이 먹는다.
330w정도 먹는 것 같은데 compute가 풀로드가 아니었다.
아마 완전 풀로드하면 500w까지 나올 것 같다.
'홈서버 > 장비' 카테고리의 다른 글
| [장비교체] TopPower 700W → 마이크로닉스 Classic II 800W (0) | 2026.06.01 |
|---|