[NHN FORWARD 22] HPC 인프라 구축하기

CPU는 소수의 강력한 코어로 다양한 작업을 빠르게 처리하는 반면, GPU는 수천 개의 쿠다 코어로 단순 반복 연산을 병렬 처리한다. 색칠 비유로 두 프로세서의 설계 철학 차이를 설명하고, 대규모 연산에 GPU가 왜 적합한지 짚는다.

DGX A100은 GPU를 최대 8장 장착하며 CPU·PCI 카드가 리던던시 구조로 배치된다. 다수 GPU가 데이터를 주고받을 때 좁은 PCI가 병목이 되므로, 전용 도로 격인 NVLink/NVSwitch를 두어 GPU 간 통신 대역폭을 확보하는 구조를 설명한다.

일반 릭에서는 최초 패킷이 하이퍼바이저의 OVS를 거쳐 부하를 준다. SmartNIC은 SR-IOV로 이를 우회하고, NIC에 OVS 모듈을 올린 DPU는 네트워크 처리를 오프로드해 성능을 20~30% 끌어올릴 수 있음을 설명한다.

연산 결과를 저장하는 쉐어드 스토리지로 서버를 계속 추가해 성능을 늘리는 병렬 파일 시스템을 소개한다. CPU를 바이패스해 GPU 메모리 간 제로 카피를 수행하는 RDMA와, GDS 지원 여부를 gdsio 툴로 검증하는 방법을 설명한다.

RDMA 전용 InfiniBand는 멜라녹스 스위치로 최고 성능을 내지만, RDMA 패킷을 캡슐화한 RoCE로 이더넷 스위치에서도 유사 성능을 낼 수 있다. IB는 응답속도, 이더넷은 간편함이 장점이라 워크로드 특성에 맞춰 선택해야 함을 비교한다.

리프-스파인 3단계 구조로 다수 GPU 서버가 동시에 통신해도 대역폭을 보장하는 논블로킹 패브릭을 구성한다. 100대 규모 서버에 배포도구로 소프트웨어를 일괄 배포하고, 스케줄러와 UFM으로 인피니밴드 패브릭을 관리·모니터링한다.

여러 GPU 서버를 하나처럼 병렬 프로그래밍하는 MPI를 hello world 예제로 시연하고, 패스워드 없는 접속 등 실행 조건을 설명한다. 마지막으로 HPL 등 벤치마크로 공식 성능 대비 실측치를 검수하는 최종 단계를 다룬다.