LLM 안전성을 위한 경량 가드레일 모델: GLIGuard-300M
텍스트 분류 (탈옥 탐지, 유해성 탐지)300Mapache-2.0
LLM의 출력물에서 탈옥 시도 및 유해 콘텐츠를 탐지하는 GLiNER 기반의 300M 파라미터 경량 분류 모델이다.
핵심 역량
- 탈옥 시도 탐지
- 유해 콘텐츠 분류
- 다중 레이블 텍스트 분류
- LLM 가드레일 구축
강점
- 300M 파라미터의 경량 구조로 빠른 추론 속도 제공
- 다중 레이블 분류를 통한 복합적인 안전성 검사 가능
훈련 방식
fastino/gliner2-base-v1 기반으로 탈옥 및 유해성 탐지 데이터셋을 사용하여 파인튜닝 수행
알아두면 좋은 것
- GLiNER 2 기반 아키텍처 사용
- 300M 파라미터의 경량 모델
- 탈옥 및 유해성 탐지에 특화된 다중 레이블 분류
- Apache 2.0 라이선스 적용
56
Likes
2.1k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.