프롬프트 청킹
프롬프트 청킹은 대규모 요청을 작은 단위로 분할해 순차적으로 모델에 보내는 기법이다. 입력을 필드 단위나 페이지 단위로 나누고 각 청크에 대해 별도의 질의를 수행하여 출력 길이와 처리 복잡도를 제어한다. 이 방법은 출력이 긴 구조화된 양식을 한 번에 생성해야 하는 상황에서 출력 컷오프와 오류율을 감소시키는 데 핵심 역할을 한다.
