R9700

최근에 엔비디아의 4060ti에서 r9700으로 그래픽카드를 바꿨다. vram이 너무 작기도 했고 조금 더 큰 모델을 돌려보고 정말 SOTA 모델들과 비슷한지 확인해보고 싶었다. 그래서 r9700으로 바꾸었고 소비자용 그래픽카드에서 돌릴 수 있는 모델 중 끝판왕이라는 qwen3.6 27b를 돌려보았다. 각설하고 결론부터 말하자면 아래와 같다. 용도양자화mtp백엔드속도짧은 코딩 (≤8k)Q6_Kn2Vulkan b943048t/s긴 코딩 (16k+)Q6_Kn3ROCm b128337t/s긴 코드 한 방 생성Q6_Kn3Vulkan b9430~60t/s품질 최우선UD-Q6_K_XLn3Vulkan/ROCm42t/sNo MTPQ6_KoffROCm24t/s 어느정도 속도까지 나올까?R9700은 메모리 대역폭이 640G..

24년도에 ai 찍먹하기 위해 구매했던 4060ti를 라데온 r9700로 변경하였다.4060ti가 vram 16gb로 적당히 덜 똑똑한 버전의 모델까지는 사용 가능했지만 그 이상의 것은 사용이 어려웠다. 실제 SOTA급 모델 외에 로컬에서 돌릴 수 있는 모델 중 qwen3.6 27b가 최고라는 얘기를 들었고, 과연 얼마나 똑똑할까가 궁금했다.점수로는 알겠는데 그래서 내가 일상 생활에서 평소 쓰는대로 쓸 수 있는가? 그게 관건이었다.그래서 구매하려고 이것저것 찾아본게 7900xtx나 r9700이었다. rtx5080은 성능은 나쁘지 않은데 vram이 16gb로 대상에서 제외하였고, rtx5090은 650~700만원쯤 하여 가격이슈로 제외하였다.7900xtx, r9700 둘 다 vram이 4060ti보다 ..