structured-outputs
모델의 응답을 JSON Schema나 정규표현식 등 특정 형식으로 강제하는 기법이다. 데이터 추출이나 API 연동 시 데이터의 일관성을 보장하기 위해 필수적이다.
OpenAI API의 숨겨진 함정: 왜 같은 기능인데 형식이 다를까?
vLLM 서버 구축이 어려우셨나요? 클릭 한 번으로 끝내는 vLLM Playground