TL;DR

이 모델은 SupraLabs가 Supra-1.5-50M-Base-exp를 기반으로 992 샘플로 미세조정한 51.7M 파라미터 경량 라우터로서 엣지 중심 인프라에서 프롬프트를 로컬 처리 또는 클라우드 오프로드로 결정하도록 설계되었다. 입력은 'Task: [Prompt] Analysis: ' 형식으로 포맷되며 모델은 도메인, 복잡도, 수학/코드 포함 여부를 멀티태스크 시퀀스로 산출한 뒤 결정적 Route 토큰을 반환해 상위 오케스트레이터가 간단히 파싱해 조치를 취할 수 있다. 학습은 bfloat16으로 5 에폭 동안 수행되었고 에폭 3에서 eval_loss 0.1342로 최적점을 기록해 그 시점의 체크포인트를 채택했으며 이로 인해 과적합 위험을 낮추는 운영적 장치가 마련되었다. 엣지 최적화와 결정적 출력 덕분에 낮은 지연으로 라우팅을 수행할 수 있으나 훈련 샘플 수가 992로 제한적이라는 점과 품질·회복력 관련 주장은 문서상 정성적 근거가 주로 제시되어 추가 검증이 필요하다.

핵심 포인트

• 본 모델은 단순 이진 분류기가 아니라 멀티태스크 시퀀스 생성을 통해 입력의 여러 특성을 순차적으로 산출하고 마지막에 라우트 토큰을 출력하는 구조를 채택했다. 이로 인해 의미적·구조적 특징을 내부적으로 활성화해 라우팅 결정을 내리므로 키워드 기반 규칙보다 더 세밀한 판단이 가능하다. 결과적으로 소형 모델이지만 라우팅 경계의 안정성을 확보할 수 있었다.
• 51.7M 파라미터라는 초경량화된 설계를 엣지 오케스트레이션 목적에 맞춰 최적화했다는 점이 차별화 요소다. bfloat16과 긴 시퀀스 최적화로 낮은 하드웨어 오버헤드를 유지하면서도 3840 토큰을 처리할 수 있도록 균형을 맞췄다. 이 설계는 엣지-클라우드 하이브리드 환경에서 라우터를 로컬 방화벽 겸 트래픽 제어기로 배치하는 데 적합하다.
• 학습 과정에서 검증 손실의 최적점을 기준으로 자동 리와인드를 적용해 late-stage 과적합을 회피한 운영 절차가 포함되어 있다. 소량 데이터(992 샘플)에 대해 에폭 3에서의 체크포인트 선택을 통해 일반화 성능을 우선시했다는 점이 운영 관점의 차별점이다. 이러한 체크포인트 정책은 라우터의 안전 경계와 일관성 확보에 기여한다.
• 매우 작은 파라미터 수(51.7M)로도 라우팅 의사결정을 수행하도록 설계되어 엣지 환경에서의 배포 비용과 리소스 요구가 낮다. bfloat16과 3840 토큰 최적화를 통해 긴 컨텍스트 처리와 저지연 응답을 동시에 달성하도록 균형을 맞췄다. 이러한 조합은 엣지-퍼스트 아키텍처에서 라우터를 경량 방화벽 역할로 배치할 때 유리하다.

벤치마크