프록시 서버
클라이언트와 목적지 서버 사이에서 통신을 중계하는 중간 서버로, 요청을 가로채어 검사하거나 수정하는 역할을 수행한다. LLM 환경에서는 보안 필터링, 비용 관리, 응답 속도 개선 등을 위해 주로 활용된다.
SDK 수정 없이 엔드포인트만 바꿔서 LLM 보안 강화하기