Open Responses: 에이전트 시대를 위한 새로운 개방형 추론 표준 가이드

섹션별 상세

Open Responses는 2025년 3월 출시된 OpenAI의 Responses API를 확장하고 오픈소스화한 표준이다. 텍스트, 이미지, JSON 출력을 생성하는 일관된 방식을 제공하며, 특히 모델 제공자 측에서 에이전트 루프를 실행하여 최종 결과만 반환하는 기능을 포함한다.

bash

curl https://evalstate-openresponses.hf.space/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $HF_TOKEN" \
  -H "OpenResponses-Version: latest" \
  -N \
  -d '{
    "model": "moonshotai/Kimi-K2-Thinking:nebius",
    "input": "explain the theory of life"
  }'

Open Responses API를 사용하여 추론 요청을 보내는 curl 예시

기존 Chat Completion 형식이 턴제 대화에 최적화된 것과 달리, Open Responses는 에이전트의 장기적인 추론과 계획 수립에 적합하도록 설계되었다. 상태 비저장(Stateless)을 기본으로 하며, 스트리밍 시 단순 텍스트가 아닌 의미론적 이벤트(Semantic Events) 시리즈로 모델링한다.

추론 과정의 가시성을 대폭 강화하여 content(원시 추론 추적), encrypted_content(보호된 내용), summary(정제된 요약)라는 세 가지 필드를 공식화했다. 이를 통해 개발자는 모델이 정답을 내기까지의 사고 과정을 더 세밀하게 모니터링하고 제어할 수 있다.

json

{
  "model": "moonshotai/Kimi-K2-Thinking:together",
  "input": [
    {
      "type": "message",
      "role": "user",
      "content": "explain photosynthesis."
    }
  ],
  "stream": true
}

추론 과정을 스트리밍하기 위한 요청 페이로드 구조

에이전트 루프(Sub Agent Loops)를 기본적으로 지원하여 모델이 도구 호출, 실행, 결과 수집을 자율적으로 반복할 수 있게 한다. 개발자는 max_tool_calls와 tool_choice 파라미터를 통해 이 루프의 동작 범위를 제어하며, 복잡한 워크플로우를 단일 API 요청으로 처리 가능하다.

json

{
  "model": "zai-org/GLM-4.7",
  "input": "Find Q3 sales data and email a summary to the team",
  "tools": [...],
  "max_tool_calls": 5,
  "tool_choice": "auto"
}

에이전트 루프의 최대 반복 횟수와 도구 선택 방식을 제어하는 예시

도구를 내부(Internal)와 외부(External)로 구분하여 관리한다. 내부 도구는 모델 제공자의 인프라 내에서 실행되어 개발자의 개입 없이 결과가 반환되며, 외부 도구는 클라이언트 측 함수나 MCP 서버를 통해 구현된다.

용어 해설

상태 비저장(Stateless): — 각 API 요청이 독립적으로 처리되어 서버가 이전 대화 상태를 유지하지 않는 방식이다. 에이전트 시스템의 확장성을 높이고 보안을 강화하는 데 필수적인 설계 원칙이다.
의미론적 이벤트(Semantic Events): — 데이터 스트리밍 시 단순한 텍스트 조각 대신 '추론 시작', '도구 호출' 등 의미 있는 단위로 정보를 전달하는 방식이다. 클라이언트가 모델의 상태 변화를 더 정확하게 파악할 수 있게 돕는다.
에이전트 루프(Agentic Loop): — 모델이 목표 달성을 위해 추론, 도구 실행, 결과 확인 과정을 스스로 반복하는 순환 구조이다. 자율적인 문제 해결 능력을 갖춘 AI 에이전트의 핵심 작동 메커니즘이다.
추론 추적(Reasoning Trace): — 모델이 최종 답변을 내놓기 전 단계별로 사고하는 과정을 기록한 데이터이다. Open Responses는 이를 투명하게 공개하여 에이전트의 의사결정 과정을 검증할 수 있게 한다.
모델 컨텍스트 프로토콜(MCP): — 에이전트가 외부 데이터 소스나 도구에 안전하고 표준화된 방식으로 접근할 수 있도록 돕는 개방형 프로토콜이다. Open Responses의 외부 도구 구현 시 주요하게 활용된다.

기술

Open Responses API
Hugging Face
OpenAI Responses API
MCP

활용 사례

자율 에이전트
복잡한 RAG 파이프라인
멀티스텝 워크플로우 자동화

언급된 리소스

문서Open Responses Documentation

DemoHugging Face Spaces - Open Responses Demo