TL;DR
proxy-llms는 하나의 로컬 CLIProxyAPI 게이트웨이를 통해 t3의 Codex 탭과 Claude 탭에서 서로 다른 AI 모델을 실행하도록 연결합니다. 게이트웨이는 127.0.0.1:8317에서 OpenAI, Responses, Anthropic 형식을 동시에 처리하고 모델 ID에 따라 요청을 분배합니다. setup.sh는 게이트웨이를 내려받고 기존 Codex·Claude 로그인 정보를 인증 자격 증명으로 바꾼 뒤 Codex 탭을 연결하며, proxyctl 명령으로 연결 상태와 모델을 관리합니다. Claude 탭에서 외부 모델을 쓰려면 claude-* 별칭이 필요하고, 포트를 외부에 공개할 때는 기본 관리 키와 로컬 접근 제한을 변경해야 합니다.
섹션별 상세
git clone https://github.com/0xhsn/proxy-llms ~/proxy-llms && ~/proxy-llms/setup.shproxy-llms 저장소를 복제한 뒤 setup.sh를 실행해 게이트웨이와 Codex·Claude 로그인 기반 인증 구성을 시작합니다.
proxyctl status # gateway and plug state
proxyctl models [filter] # what the gateway serves
proxyctl codex-plug # Codex tab -> gateway (codex-unplug to revert)
t3-plugged # launch t3 with both tabs on the gateway; plain `t3` to unplug게이트웨이 상태와 제공 모델을 확인하고 Codex 탭 또는 t3의 두 탭을 게이트웨이에 연결하거나 해제합니다.
proxyctl add-openai glm https://open.bigmodel.cn/api/paas/v4 glm-5 "$KEY"
proxyctl add-openai glm https://open.bigmodel.cn/api/paas/v4 glm-5 "$KEY" claude-fable-5
proxyctl remove glmOpenAI 호환 엔드포인트에 GLM-5를 등록하고 Claude 탭에서 사용할 claude-* 별칭을 추가하거나 등록을 제거합니다.
용어 해설
- 로컬 게이트웨이(Local Gateway)
- — 사용자 컴퓨터에서 실행되며 여러 AI 서비스의 요청을 한곳에서 받아 각 모델이나 공급자로 전달하는 중간 계층입니다. 이 글에서는 127.0.0.1:8317 포트의 CLIProxyAPI가 OpenAI, Responses, Anthropic 형식을 동시에 처리하고 모델 ID에 따라 요청을 라우팅합니다.
- 모델 라우팅(Model Routing)
- — 클라이언트가 보낸 모델 ID를 기준으로 적절한 모델 제공자나 별칭으로 요청을 분배하는 방식입니다. 이를 이용하면 하나의 게이트웨이에 모델을 등록한 뒤 Codex 탭과 Claude 탭에서 서로 다른 모델을 선택해 실행할 수 있습니다.
- Anthropic 형식(Anthropic Format)
- — Anthropic API가 사용하는 요청 및 응답 규격입니다. CLIProxyAPI는 OpenAI와 Responses 형식뿐 아니라 Anthropic 형식도 함께 처리하므로 외부 모델을 Claude 탭에서 실행하는 연결 지점으로 사용할 수 있습니다.
- 멱등형 설정(Idempotent Setup)
- — 설정 스크립트를 여러 번 실행해도 이미 구성된 상태를 불필요하게 중복 생성하거나 망가뜨리지 않는 특성입니다. proxy-llms의 setup.sh는 게이트웨이를 내려받고 인증 정보를 구성한 뒤 실행하며 반복 실행을 고려한 방식으로 제공됩니다.
- 모델 별칭(Model Alias)
- — 실제 모델 이름과 별도로 클라이언트가 인식할 수 있도록 붙이는 이름입니다. Claude 탭은 claude-* 형태의 슬러그만 표시하므로 GLM 같은 외부 모델에 claude-* 별칭을 추가해야 해당 탭에서 실행할 수 있습니다.
기술
- proxy-llms
- CLIProxyAPI
- OpenAI
- Responses
- Anthropic
- Codex
- Claude
- GLM
- Kimi K3
- Fable 5.1
활용 사례
- t3의 Codex 탭에서 Claude 외 모델 실행
- t3의 Claude 탭에서 GLM-5 같은 외부 모델 실행
- 여러 AI 제공자를 하나의 로컬 게이트웨이로 통합
- 모델별 API 엔드포인트와 별칭 관리
언급된 리소스
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.