OpenAI의 개인정보 필터링 모델과 바이두의 QianfanOCR 등 신규 모델 지원을 추가하고 서빙 및 비전 처리 성능을 개선했습니다.
내부 rotary_fn이 더 이상 숨겨진 커널 함수로 등록되지 않아 Attention 모듈 내에서 self.rotary_fn(...) 호출 시 오류가 발생합니다.
해당 함수를 직접 호출하도록 코드를 업데이트해야 합니다.
OpenAI Privacy Filter 지원
개인 식별 정보(PII)를 탐지하고 마스킹하는 양방향 토큰 분류 모델로, 온프레미스 환경에서 빠른 데이터 정제 워크플로를 지원합니다.
QianfanOCR 및 SAM3-LiteText 추가
바이두의 문서 지능 모델인 QianfanOCR과 경량화된 비전-언어 분할 모델인 SAM3-LiteText가 새롭게 포함되었습니다.
transformers serve 기능 강화
OpenAI 호환 /v1/completions 엔드포인트와 오디오 및 비디오 입력을 위한 멀티모달 서빙 기능이 추가되었습니다.
아직 관련 토론이 없습니다.
댓글을 작성하려면 로그인이 필요합니다.