Ahead-of-time Compilation
사전 컴파일
실행 시점이 아니라 배포 전에 모델 연산을 미리 컴파일하는 방식입니다. Netra Kernel은 모델 계약, 텐서 레이아웃, 데이터 형식, 실행 차원을 사전에 확정하고 AMD GPU용 raw-assembly 커널과 엔진을 생성합니다. 런타임의 동적 분기와 커널 선택 비용을 줄이는 데 목적이 있습니다.
사전 컴파일
실행 시점이 아니라 배포 전에 모델 연산을 미리 컴파일하는 방식입니다. Netra Kernel은 모델 계약, 텐서 레이아웃, 데이터 형식, 실행 차원을 사전에 확정하고 AMD GPU용 raw-assembly 커널과 엔진을 생성합니다. 런타임의 동적 분기와 커널 선택 비용을 줄이는 데 목적이 있습니다.
