재영의 기술 블로그
홈 아카이브 소개 게임

"overlap" 태그가 달린 포스트

February 20, 2026 undefined분 읽기

분산 LLM 학습 16 - Communication Overlap은 어떻게 step 시간을 숨기는가

분산 학습 최적화의 핵심은 통신을 없애는 것이 아니라 계산 뒤에 숨어서 끝나게 만드는 데 있다

Lectures
더 읽기

© 2025 Jae · Notes on systems, software, and building things carefully.

RSS