conversational-context
대화 컨텍스트 구성
대화 컨텍스트 구성은 사용자의 연속 발화를 적절히 결합해 검색 쿼리나 모델 입력으로 만드는 과정으로, 최근 턴 수를 단순 병합하거나 의미적으로 압축하는 방식이 있다. 입력을 어떻게 자르고 요약하느냐에 따라 검색된 문서의 관련성 및 모델의 응답 거부 발생 여부가 달라진다. 실무에서는 토큰·문자 수 제한과 응답 지연을 고려해 가중치 있는 창(window)이나 요약 모델을 함께 사용한다.
대화 컨텍스트 구성
대화 컨텍스트 구성은 사용자의 연속 발화를 적절히 결합해 검색 쿼리나 모델 입력으로 만드는 과정으로, 최근 턴 수를 단순 병합하거나 의미적으로 압축하는 방식이 있다. 입력을 어떻게 자르고 요약하느냐에 따라 검색된 문서의 관련성 및 모델의 응답 거부 발생 여부가 달라진다. 실무에서는 토큰·문자 수 제한과 응답 지연을 고려해 가중치 있는 창(window)이나 요약 모델을 함께 사용한다.
