스트리밍 응답
모델의 생성 결과를 완성 이전에 연속적으로 클라이언트에 전송하는 방식으로, 입력에 대한 토큰 단위 출력을 실시간으로 수신할 수 있게 한다. 이 방식은 지연을 줄이고 인터랙티브한 사용자 경험을 제공하며 OpenAI 호환 SDK와의 통합에서 핵심 기능으로 작동한다. 구현은 HTTP 서버에서 chunked transfer나 서버 전송 이벤트(SSE)를 사용하여 처리한다.