이기종 추론
서로 다른 종류의 가속기와 서버를 결합해 추론 파이프라인을 구성하는 접근법으로, 각 하드웨어의 강점을 살려 워크로드를 분할 처리한다. 이기종 구성은 데이터 전송과 동기화 오버헤드를 관리해야 하지만 처리량과 응답 시간 면에서 유리한 결과를 낼 수 있다.