Hardware Heterogeneity

AI 모델이 실행되는 환경이 NVIDIA GPU뿐만 아니라 다양한 제조사의 NPU, TPU, 모바일 프로세서 등으로 파편화된 상태를 의미한다. 각 하드웨어마다 지원하는 명령어 세트가 달라 소프트웨어의 이식성을 확보하는 것이 기술적 난제로 꼽힌다.