Open Responses: 에이전트 시대를 위한 새로운 개방형 추론 표준 가이드

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

챗봇 시대를 지나 에이전트가 주도하는 AI 환경에서 기존 Chat Completion 인터페이스는 한계에 직면했다. Open Responses는 OpenAI의 Responses API를 기반으로 오픈소스 커뮤니티와 Hugging Face가 협력하여 만든 새로운 개방형 추론 표준이다. 이 표준은 에이전트의 자율적인 루프 처리, 추론 과정의 가시성 확보, 그리고 다양한 모델 제공자 간의 상호운용성을 목표로 한다. 개발자는 이를 통해 더 복잡한 에이전트 시스템을 일관된 방식으로 구축할 수 있다.

배경

REST API 이해, LLM 추론 및 도구 사용(Tool Use) 개념

대상 독자

AI 에이전트 및 LLM 애플리케이션 개발자, 인프라 제공자

의미 / 영향

이 표준은 파편화된 LLM API 시장을 통합하여 에이전트 개발의 복잡도를 낮추고, 오픈소스 생태계가 특정 기업의 폐쇄적 API에 종속되지 않도록 돕는 중요한 전환점이 될 것이다.

섹션별 상세

Open Responses는 2025년 3월 출시된 OpenAI의 Responses API를 확장하고 오픈소스화한 표준이다. 텍스트, 이미지, JSON 출력을 생성하는 일관된 방식을 제공하며, 특히 모델 제공자 측에서 에이전트 루프를 실행하여 최종 결과만 반환하는 기능을 포함한다.

bash

curl https://evalstate-openresponses.hf.space/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $HF_TOKEN" \
  -H "OpenResponses-Version: latest" \
  -N \
  -d '{
    "model": "moonshotai/Kimi-K2-Thinking:nebius",
    "input": "explain the theory of life"
  }'

Open Responses API를 사용하여 추론 요청을 보내는 curl 예시

기존 Chat Completion 형식이 턴제 대화에 최적화된 것과 달리, Open Responses는 에이전트의 장기적인 추론과 계획 수립에 적합하도록 설계되었다. 상태 비저장(Stateless)을 기본으로 하며, 스트리밍 시 단순 텍스트가 아닌 의미론적 이벤트(Semantic Events) 시리즈로 모델링한다.

추론 과정의 가시성을 대폭 강화하여 content(원시 추론 추적), encrypted_content(보호된 내용), summary(정제된 요약)라는 세 가지 필드를 공식화했다. 이를 통해 개발자는 모델이 정답을 내기까지의 사고 과정을 더 세밀하게 모니터링하고 제어할 수 있다.

json

{
  "model": "moonshotai/Kimi-K2-Thinking:together",
  "input": [
    {
      "type": "message",
      "role": "user",
      "content": "explain photosynthesis."
    }
  ],
  "stream": true
}

추론 과정을 스트리밍하기 위한 요청 페이로드 구조

에이전트 루프(Sub Agent Loops)를 기본적으로 지원하여 모델이 도구 호출, 실행, 결과 수집을 자율적으로 반복할 수 있게 한다. 개발자는 max_tool_calls와 tool_choice 파라미터를 통해 이 루프의 동작 범위를 제어하며, 복잡한 워크플로우를 단일 API 요청으로 처리 가능하다.

json

{
  "model": "zai-org/GLM-4.7",
  "input": "Find Q3 sales data and email a summary to the team",
  "tools": [...],
  "max_tool_calls": 5,
  "tool_choice": "auto"
}

에이전트 루프의 최대 반복 횟수와 도구 선택 방식을 제어하는 예시

도구를 내부(Internal)와 외부(External)로 구분하여 관리한다. 내부 도구는 모델 제공자의 인프라 내에서 실행되어 개발자의 개입 없이 결과가 반환되며, 외부 도구는 클라이언트 측 함수나 MCP 서버를 통해 구현된다.

실무 Takeaway

에이전트 시스템 구축 시 Open Responses 표준을 채택하면 여러 모델 제공자 간의 API 호환성을 유지하면서 복잡한 도구 사용 루프를 간소화할 수 있다.
추론 과정의 원시 데이터(Raw Reasoning Traces)에 접근 가능한 필드를 활용하여 에이전트의 의사결정 논리를 디버깅하거나 사용자에게 투명하게 공개할 수 있다.
max_tool_calls 설정을 통해 무한 루프를 방지하고 비용을 제어하면서도, 단일 요청으로 다단계 작업을 수행하는 고성능 에이전트를 구현할 수 있다.

언급된 리소스

문서Open Responses Documentation

DemoHugging Face Spaces - Open Responses Demo