poolside가 공개한 효율적인 대화형 모델 Laguna-XS.2
텍스트 생성 및 대화 수행apache-2.0
vLLM 프레임워크에 최적화된 poolside의 Laguna 시리즈 차세대 소형 대화형 언어 모델이다.
핵심 역량
- 멀티턴 대화 수행
- 텍스트 생성 및 문장 완성
- vLLM 기반 고속 추론
강점
- Apache 2.0 라이선스로 자유로운 상업적 활용 가능
- vLLM 지원을 통한 높은 추론 처리량 확보
알아두면 좋은 것
- vLLM 프레임워크 최적화 지원
- Safetensors 포맷 적용으로 보안성 강화
- Apache 2.0 라이선스로 상업적 이용 가능
- 대화형(Conversational) 태스크 특화
239
Likes
23.7k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.