rdna4

최근에 엔비디아의 4060ti에서 r9700으로 그래픽카드를 바꿨다. vram이 너무 작기도 했고 조금 더 큰 모델을 돌려보고 정말 SOTA 모델들과 비슷한지 확인해보고 싶었다. 그래서 r9700으로 바꾸었고 소비자용 그래픽카드에서 돌릴 수 있는 모델 중 끝판왕이라는 qwen3.6 27b를 돌려보았다. 각설하고 결론부터 말하자면 아래와 같다. 용도양자화mtp백엔드속도짧은 코딩 (≤8k)Q6_Kn2Vulkan b943048t/s긴 코딩 (16k+)Q6_Kn3ROCm b128337t/s긴 코드 한 방 생성Q6_Kn3Vulkan b9430~60t/s품질 최우선UD-Q6_K_XLn3Vulkan/ROCm42t/sNo MTPQ6_KoffROCm24t/s 어느정도 속도까지 나올까?R9700은 메모리 대역폭이 640G..