pile·

GPU Network Driver 가속

kakao tech·if-kakao-2024 ··
#linux-kernel#gpu-networking#zero-copy#device-memory-tcp#network-driver#dma

챕터별 상세

010:10 – 7:25

NIC에서 GPU까지 Data Path

AI workload의 network packet은 NIC device memory에서 host memory로 DMA된 뒤 application이 다시 GPU로 copy하는 경우가 많다. 발표는 Linux receive stack과 driver의 buffer 흐름을 따라가며 이 copy가 CPU·memory bandwidth 병목이 되는 이유와 device memory TCP가 해결하려는 범위를 설명한다.