Rerank API
Rerank API
Rerank API는 검색된 여러 문서 조각을 질문과의 관련성에 따라 다시 정렬하는 기능입니다. 이 글에서는 압축 전에 관련성이 높은 조각을 우선 배치하는 단계로 사용해, 압축만 적용한 경우보다 주 모델에 전달되는 토큰과 비용을 추가로 줄입니다.
Rerank API
Rerank API는 검색된 여러 문서 조각을 질문과의 관련성에 따라 다시 정렬하는 기능입니다. 이 글에서는 압축 전에 관련성이 높은 조각을 우선 배치하는 단계로 사용해, 압축만 적용한 경우보다 주 모델에 전달되는 토큰과 비용을 추가로 줄입니다.