본문으로 건너뛰기

heterogeneous-architecture

이기종 아키텍처

서로 다른 특성을 가진 여러 모델을 조합하여 시스템을 구성하는 방식이다. 예를 들어 복잡한 계획 수립은 거대 추론 모델이 담당하고 실제 실행은 소형 언어 모델(SLM)이 담당하게 하여 성능과 비용 효율성을 동시에 최적화한다.