RTX 5090에서 cuBLAS의 비효율적인 FP32 커널 성능 문제 분석

NVIDIA가 소비자용 GPU의 성능을 의도적으로 제한하거나 최적화를 방치하고 있다는 의혹에 대해 활발한 토론이 진행되었으며, 작성자의 커스텀 커널 성능에 대해 긍정적인 반응이 많았다.

• RTX 5090 환경에서 대규모 FP32 배치 연산이 필요한 경우 cuBLAS 대신 TMA 기반의 커스텀 커널 사용을 고려해야 한다.
• 성능 병목 현상 분석 시 NCU 프로파일링과 SASS 스케줄링 확인을 통해 실제 하드웨어 활용률을 점검해야 한다.

cuBLAS

— NVIDIA가 제공하는 GPU 가속 BLAS(Basic Linear Algebra Subprograms) 라이브러리로, 행렬 연산과 같은 선형 대수 계산을 최적화하여 수행하는 핵심 소프트웨어 구성 요소이다.

TMA

— Tensor Memory Accelerator의 약자로, NVIDIA Hopper 및 Blackwell 아키텍처에서 도입된 하드웨어 기능이며 전역 메모리와 공유 메모리 간의 데이터 전송을 비동기적으로 처리하여 연산 효율을 높인다.

SASS

— NVIDIA GPU에서 실제로 실행되는 저수준 어셈블리 명령어로, 컴파일된 CUDA 코드가 하드웨어 스케줄러에 의해 어떻게 처리되는지 분석할 때 사용되는 최종 기계어 형태이다.

Double Buffering

— 데이터를 처리하는 동안 다음 데이터를 미리 로드하기 위해 두 개의 버퍼를 교대로 사용하는 기법으로, 메모리 대기 시간을 연산 시간과 중첩시켜 전체 처리량을 극대화하는 최적화 방식이다.

FMA

— Fused Multiply-Add의 약자로, 곱셈과 덧셈을 하나의 명령어로 처리하는 연산 방식이며 부동 소수점 연산의 정밀도를 높이고 실행 속도를 단축시키는 핵심 연산 단위이다.