isa-extensions
ISA 확장(SDOT·I8MM·SME2)
SDOT, I8MM, SME2 같은 ISA 확장은 벡터 산술과 정밀도 처리 경로를 확장해 특정 연산을 가속합니다. 런타임에서 해당 확장의 유무를 판별하면 매트릭스 곱과 양자화된 연산에 하드웨어 특화 루틴을 선택할 수 있습니다. 모델 추론 성능과 전력 효율은 이런 확장 지원 여부에 따라 크게 달라질 수 있습니다.
ISA 확장(SDOT·I8MM·SME2)
SDOT, I8MM, SME2 같은 ISA 확장은 벡터 산술과 정밀도 처리 경로를 확장해 특정 연산을 가속합니다. 런타임에서 해당 확장의 유무를 판별하면 매트릭스 곱과 양자화된 연산에 하드웨어 특화 루틴을 선택할 수 있습니다. 모델 추론 성능과 전력 효율은 이런 확장 지원 여부에 따라 크게 달라질 수 있습니다.
