Output Compression
출력 압축
모델이 생성하는 출력 토큰 수를 줄이도록 제약하는 방법입니다. 답변의 길이를 제한해 API 사용량과 비용을 낮추지만, 정보 손실이나 모델의 추론 표현 변화가 발생할 수 있어 정확도와 함께 확인해야 합니다.
출력 압축
모델이 생성하는 출력 토큰 수를 줄이도록 제약하는 방법입니다. 답변의 길이를 제한해 API 사용량과 비용을 낮추지만, 정보 손실이나 모델의 추론 표현 변화가 발생할 수 있어 정확도와 함께 확인해야 합니다.