AI Runner

개발 2026년 9월 26일

자동 제목 요청 뒤 본 대화가 제목처럼 답하던 문제를 추적한 기록

에이전트 클라이언트가 자동 제목을 만든 뒤 본 대화에도 제목 같은 한 줄만 돌아오는 문제였습니다. 템플릿 해시로 프롬프트 문제를 배제하고, 8월과 9월 빌드를 대조해 조건부로 결론을 냈습니다.

AI 2026년 9월 26일

외장 SSD 스트리밍 중 한 레이어 읽기가 42초씩 걸리는 현상을 추적했고, 340GiB 모델을 내장 가중치 152GiB와 외장 Engram 189GiB로 나눠 prefill을 26% 끌어올렸습니다.

AI 2026년 9월 26일

메모리의 2.7배인 모델을 expert SSD 스트리밍으로 돌렸습니다. 커뮤니티 ROCm PR을 EVO-X2에서 직접 빌드해 16K 벤치마크, 32~128K 측정, greedy 반복 출력 진단을 했습니다.

AI 2026년 9월 16일

텍스트→영상에서만 확인했던 네이티브 HIP Sol을 시작·종료 이미지(FL2VA)와 참조 이미지(R2VA) 입력에서도 측정했습니다. 모든 조건에서 30.2% 줄었고 24회 모두 정상 완료됐습니다.

개발 2026년 9월 16일

96GB GPU를 단 서버가 영상 업스케일 도중 응답하지 않았습니다. 픽셀 업스케일의 RAM 사용량(frames×W×H×scale²×12B)과 WDDM fallback이 겹친 사고의 경위와 조치입니다.

AI 2026년 9월 7일

128GB 통합 메모리 미니PC와 96GB Blackwell 워크스테이션에서 같은 영상 모델을 각각 가속해 봤습니다. 속도 차이와, 한쪽에서 가장 빠른 방법이 다른 쪽에서는 통하지 않았던 점을 정리했습니다.

AI 2026년 9월 7일

dense보다 느려서 뺐던 Sol attention을 comfy-kitchen의 네이티브 HIP 구현으로 다시 쟀습니다. 1344×768에서 617초가 431초로 줄어 영상 한 편에 3분 6초를 아낍니다.

AI 2026년 9월 7일

96GB Blackwell에서 H3 가속 방법을 비교했습니다. 8-step에 Triton Sol 패치를 넣으면 22% 줄고, FastH3 VSA 4-step으로 바꾸면 2.4배 빨라집니다. 이름이 비슷해 헷갈리는 백엔드도 하나 있었습니다.

AI 2026년 9월 6일

104.5GiB Qwen3.8 Flash Next를 EVO-X2에서 128K 컨텍스트로 돌리며 ROCm 10 동조건 비교, lazy tensor, MTP draft-2를 측정하고 운영 기본값을 정했습니다.

노트 2026년 9월 6일

H3 latent는 영상과 오디오 두 스트림을 담은 NestedTensor라서 코어 SaveLatent의 .contiguous() 호출에서 실패합니다. 업스트림 상태와 우회 방법 세 가지를 적었습니다.