"cuda" 태그가 달린 포스트

PyTorch 내부 구조 08 - CUDA Stream, Event, Asynchronous Execution

PyTorch의 CUDA 연산은 기본적으로 비동기이기 때문에 실제 병목을 읽으려면 stream semantics를 알아야 한다

PyTorch 내부 구조 15 - PyTorch Profiling으로 Operator 병목 읽기

internals를 이해하는 목적은 결국 profile에서 시간을 어디서 잃는지 읽고 바꿀 수 있게 되는 데 있다