NVIDIA GreenBoost: 시스템 RAM과 NVMe를 활용한 투명한 GPU VRAM 확장 도구 오픈소스화

사용자들은 특히 오프로딩 기능이 없는 초기 릴리스 모델을 실행할 수 있다는 점에 주목하며 긍정적인 반응을 보였다.

• VRAM이 부족하여 최신 비디오 생성 모델을 실행하지 못하는 리눅스 사용자라면 GreenBoost를 통해 NVMe를 가상 VRAM으로 활용해볼 수 있다.

VRAM 오프로딩(VRAM Offloading)

— GPU의 전용 메모리(VRAM)가 부족할 때 상대적으로 느리지만 용량이 큰 시스템 RAM이나 SSD로 데이터를 옮겨 처리하는 기술이다. 이를 통해 물리적 한계를 넘는 대규모 모델을 실행할 수 있으나 데이터 전송 속도 차이로 인해 성능 저하가 발생할 수 있다.

커널 모듈(Kernel Module)

— 운영체제의 핵심인 커널에 동적으로 로드되어 기능을 확장하는 코드 블록이다. 하드웨어 드라이버나 파일 시스템 처리 등에 사용되며, GreenBoost에서는 시스템 수준에서 메모리 할당을 제어하기 위해 활용된다.

심(Shim)

— 기존 API 호출을 가로채서 인자를 수정하거나 다른 동작을 수행한 뒤 원래의 함수로 전달하는 얇은 라이브러리 계층이다. GreenBoost는 CUDA 함수 호출을 가로채어 실제 VRAM보다 큰 용량을 보고하도록 유도하는 역할을 한다.