tgupj/tiny-router
텍스트 분류 및 모델 라우팅44M512K 컨텍스트mit
DeBERTa-v3-Small을 기반으로 입력 쿼리를 분석하여 최적의 모델 경로를 결정하는 44M 규모의 경량 라우터 모델이다.
학습 방식 · Microsoft DeBERTa-v3-Small 기반, tiny-router-data 데이터셋을 활용한 지도 학습 및 ONNX 최적화
핵심 포인트
- DeBERTa-v3-Small 기반의 효율적인 텍스트 특징 추출
- ONNX 포맷 지원을 통한 범용적 추론 환경 대응
- 44M 규모의 파라미터로 극도로 낮은 추론 오버헤드 구현
- 입력 쿼리 의도 분류
40
LIKES
0
DOWNLOADS
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
