같은 MiniMax H3를 Ryzen AI Max+ 395와 RTX Pro 6000 Blackwell에서

MiniMax H3를 AMD gfx1151(Ryzen AI Max+ 395, 128GB 통합 메모리)과 NVIDIA RTX Pro 6000 Blackwell(96GB)에서 각각 가속해 봤습니다. 측정 과정은 395 편과 Blackwell 편에 있고, 여기서는 두 결과를 나란히 놓고 봅니다.

먼저 조건 차이를 밝혀 둡니다. 두 측정은 프레임 수(124f와 121f), step 수와 증류 LoRA, 가속 방법, 측정 시점이 다릅니다. 같은 1344×768, 약 5초 분량, few-step 증류라는 비슷한 작업에서 어느 정도 규모 차이가 나는지 보는 용도로만 읽어 주세요.

두 기계

	Ryzen AI Max+ 395 (EVO-X2)	RTX Pro 6000 Blackwell
형태	미니PC (APU)	워크스테이션 GPU
메모리	128GB 통합 메모리 (UMA/GTT)	VRAM 96GB + WDDM sysmem fallback
소프트웨어	ROCm 10 / HIP	CUDA / Triton
측정 전력	생성 중 소켓 전체 약 115W	측정하지 않음

속도

1344×768, 약 5초 분량 영상을 few-step 증류로 만든 각 기계의 측정값입니다.

기계	경로	시간
Blackwell	FastH3 VSA 4-step	22초
Blackwell	8-step 터보 + Triton Sol	50.4초
395	LightX2V v1.1 4-step + HIP Sol	431.1초
395	LightX2V v1.1 4-step Dense	617.1초

대략 10~20배 차이입니다. 그래도 395에서 sparse attention을 적용한 뒤로는 5초 영상이 7분대에 나와서, 밤새 돌려 두는 배치가 아니라 기다렸다가 확인하는 정도의 작업으로는 쓸 수 있습니다.

가장 빠른 방법이 서로 다르다

	395 (gfx1151)	Blackwell
가장 빠른 경로	comfy-kitchen 네이티브 HIP Sol	Saganaki Triton Sol 패치(SM120 튜닝) / FastH3 VSA
FastH3 VSA	Sol보다 못함 (-8.49%, Sol은 -13.65%)	가장 빠름 (2.4x)
"kitchen attention"	HIP Sol 구현이 들어 있는 라이브러리	dense 백엔드, sage와 비슷
이전 Triton Sol	dense보다 10.74% 느려서 뺐음	-22%로 효과 있음

같은 이름의 기법이 한쪽에서는 가장 빠르고 다른 쪽에서는 소용이 없었습니다. 커뮤니티 kernel은 특정 아키텍처에 맞춰 나오는 경우가 많아서, 벤치마크 소식을 그대로 가져오지 않고 각 기계에서 다시 쟀습니다.

양쪽에서 똑같이 확인된 것

토큰이 많을수록 sparse attention의 이득이 커졌습니다. 395에서 768×448(12,877토큰)은 13.65%, 1344×768(37,741토큰)은 30.15% 줄었습니다. attention 비용이 토큰 수의 제곱으로 늘기 때문입니다.

sparse로 학습한 checkpoint는 sparse로 돌려야 했습니다. Blackwell에서 VSA checkpoint를 dense로 강제하면 품질이 떨어졌습니다.

가속 경로의 SSIM이 낮게 나오는 것은 두 기계 모두 결과 영상이 달라진다는 뜻이었고, 품질이 나빠졌다는 뜻은 아니었습니다. 최종 판단은 영상을 직접 보고 했습니다.

쓰임새

빠르게 많이 만들어야 하는 생성은 Blackwell급이 맡는 게 맞습니다. 395는 약 115W로 늘 켜 둘 수 있는 기계라서 LLM 서빙과 영상 생성을 같이 하고 급하지 않은 생성을 받아 주는 쪽입니다. 같은 모델이라도 하드웨어마다 가속 방법을 따로 검증해야 제 속도가 나온다는 점이 이번 비교에서 가장 분명하게 남았습니다.