Input Limit
입력 토큰 한도
모델에 전달할 수 있는 입력 토큰의 최대 수를 뜻합니다. 게시글은 이 값을 context와 output 한도처럼 모델의 전체 컨텍스트 윈도인 131072로 맞춰야 조기 압축을 피할 수 있다고 설명합니다.
입력 토큰 한도
모델에 전달할 수 있는 입력 토큰의 최대 수를 뜻합니다. 게시글은 이 값을 context와 output 한도처럼 모델의 전체 컨텍스트 윈도인 131072로 맞춰야 조기 압축을 피할 수 있다고 설명합니다.
