모델 확산
모델 확산은 최신 프론티어 LLM, 오픈 웨이트 모델, 소형 언어 모델 등 다양한 모델이 빠른 속도로 다수 공개되는 현상을 말한다. 모델별 성능·비용·지연 특성이 크게 달라서 작업별로 최적 모델을 선택하는 복잡성이 증가한다. 플랫폼은 이 확산에 대응해 자동 벤치마크와 라우팅 규칙을 통해 모델 선택을 동적으로 수행해야 한다.