TL;DR

Ornith-1.0-35B는 MoE 아키텍처 기반의 35B 모델로 Gemma4와 Qwen3.5 계열에서 포스트트레이닝된 계열 모델이며 자기개선형 강화학습을 통해 생성 결과와 그 생성 경로(스캐폴드)를 동시에 최적화해 에이전트형 코딩 성능을 끌어올렸다. README에 수록된 벤치마크에서 Terminal-Bench 2.1 64.2와 SWE-bench Verified 75.6, Claw-eval 평균 69.8 등 코드 중심 평가에서 높은 점수를 기록했고 출력에 <think> 체인오브소트와 tool_call 블록을 포함해 reasoning_content와 structured tool_calls로 서버 측에서 분리·처리할 수 있도록 설계되었다. 배포 관점에서는 transformers·vLLM·SGLang 같은 최신 런타임과 GGUF/llama.cpp 경로를 통해 긴 컨텍스트(128K~262144)를 다루는 서빙 레시피를 제공하며 MIT 라이선스로 공개되어 상용 도입 제약이 낮다. 다만 벤치마크 점수는 각기 다른 하네스·템플릿·컨텍스트 설정에서 산출된 값이므로 동일 설정으로 재현해야 비교가 유효하고 긴 컨텍스트 운영은 메모리·병렬화 설정을 요구한다. 이 모델은 에이전트형 코드 자동화 파이프라인에서 도구 호출 표준화와 추론 로그 분리를 통해 통합 편의성을 제공하는 대신 MoE 특성상 특정 런타임과 병렬 환경을 맞추는 운영 부담이 존재한다.

핵심 역량

• 터미널 기반 문제 해결과 셸 상호작용을 포함한 에이전트식 코드 생성 작업을 고품질로 수행할 수 있다. 모델은 생성된 코드와 함께 함수 호출 형태의 툴 콜을 생성해 서버가 자동으로 도구를 실행하도록 할 수 있다. 긴 컨텍스트를 유지하면서 대규모 코드베이스를 분석하고 변경사항을 생성하는 작업을 지원한다.
• 체인오브소트 스타일의 추론 트레이스를 출력해 모델의 내부 추론 경로를 별도 필드(reasoning_content)로 분리해 제공할 수 있다. 이 출력은 디버깅이나 에이전트 의사결정 로그 검토에 활용될 수 있다. 파서 호환성을 통해 server-side에서 구조화된 도구 호출로 전환된다.
• 긴 컨텍스트 윈도우와 대용량 토큰 처리 옵션을 통해 긴 코드 파일이나 세션 이력을 한 번에 유지한 채로 생성과 수정 작업을 수행할 수 있다. README에서 제시된 서빙 레시피는 128K 이상에서 262144 토큰까지 설정 가능한 환경을 가정한다. 긴 컨텍스트 처리는 메모리와 추론 런타임 설정에 민감하다.

강점

• 공개 벤치마크 표에서 Terminal-Bench 2.1, SWE-bench Verified, Claw-eval 등 여러 코드 중심 평가지표에서 동급 공개 모델 대비 높은 점수를 기록했다. 표의 수치들은 특정 하네스와 컨텍스트·템플릿 설정 하에서 5회 평균으로 산출된 값이다. MIT 라이선스로 배포되어 상용 환경에 바로 도입할 수 있다는 점이 활용성 측면의 장점이다.
• 서빙 레시피가 vLLM, SGLang, Transformers 등 주요 런타임별로 구체적으로 제공되어 배포 가이드가 실무 친화적이다. 긴 컨텍스트와 도구 호출 파서를 명시적으로 지원하므로 에이전트 워크플로 통합에서 기술적 장애를 줄인다. GGUF 포맷 및 llama.cpp 예시도 있어 경량 로컬 배포 옵션이 존재한다.

훈련 방식

Ornith-1.0-35B는 Gemma4 및 Qwen3.5 기반 MoE 아키텍처 위에 포스트트레이닝된 계열 모델이며 자기개선형 강화학습을 사용해 생성한 솔루션과 그 솔루션을 생성한 스캐폴드를 동시에 최적화했다. 이 방식은 단일 출력의 품질뿐 아니라 탐색 경로 자체를 개선해 더 나은 롤아웃을 찾게 하는 것을 목표로 했다. 훈련에서 에이전트적 생성과 탐색 전략을 결합한 점이 핵심적 특징으로 기재되어 있다.

알아두면 좋은 것

• Ornith-1.0-35B는 Ornith 계열의 경량 멤버로 MIT 라이선스 하에 공개되어 상업적·비상업적 용도로 제약 없이 사용 가능하다. README에는 모델이 Gemma4와 Qwen3.5를 기반으로 한 MoE 버전 가족의 일부임이 명기되어 있다. 라이선스 링크가 리포지토리에 포함되어 있어 법적 검토가 용이하다.
• 서빙을 위해 transformers >= 5.8.1, vLLM >= 0.19.1, SGLang >= 0.5.9 등의 최신 런타임을 요구하고 있으며 vLLM과 SGLang 예시가 구체적인 명령어와 옵션으로 제공되어 배포 재현성이 높다. vLLM 예시는 tensor-parallel 8 환경과 max-model-len 262144 설정을 통해 긴 컨텍스트를 다루는 방법을 제시한다. 로컬 테스트용 Transformers 로드 예시와 OpenAI 호환 API 사용 예시도 포함되어 있다.
• 벤치마크 표는 Terminal-Bench 2.1, SWE-bench, NL2Repo, Claw-eval 등 에이전트·코딩 특화 평가를 상세하게 기재하고 있으며 각 항목별 설정과 평균화 방식(5회 평균)과 타임아웃·하드웨어 조건을 주석으로 명시하고 있다. 평가에는 다양한 평가 하네스와 컨텍스트 길이 설정이 사용되어 결과 재현을 위해 동일 설정을 맞출 필요가 있다. 평가 주석에는 사용한 템플릿과 Harbor/vLLM 연동 관련 수정사항도 명시되어 있다.
• 모델은 OpenClaw, Hermes, Atomic.chat, Ollama, llama.cpp 등 여러 에이전트·서빙 도구와 호환되도록 설계되어 있어 에코시스템 통합이 용이하다. README는 GGUF 빌드 배포와 llama-server 예시를 제공해 경량화된 로컬 제공 경로도 안내한다. Unsloth와 OpenHands 같은 활용 패키지와의 통합 예시도 포함되어 있어 실무 적용 흐름을 빠르게 구성할 수 있다.

기술적 특징

• 모델은 MoE 구조의 35B 변형으로 설계되어 파라미터 용량과 실제 연산 효율을 분리해 확장성 있는 표현력을 제공한다. MoE는 입력에 따라 일부 전문가만 활성화하므로 전체 모델 크기는 크지만 추론 시 활성화되는 연산량을 제어할 수 있다. 이로 인해 코드·에이전트 작업에서 표현력을 높이면서도 특정 런타임에서의 비용을 관리할 수 있다.
• 학습 파이프라인은 생성된 솔루션과 그 솔루션을 만들어낸 '스캐폴드' 탐색 전략을 동시에 강화학습 신호로 사용해 정책을 갱신하는 자기개선형 RL을 적용했다. 이 방식은 단일 답안의 보상뿐 아니라 더 나은 탐색 궤적을 찾는 능력을 학습시켜 에이전트형 롤아웃의 품질을 향상시키는 효과를 목표로 한다. README는 이 점을 모델의 핵심 차별점으로 기술하고 있다.
• 모델은 기본적으로 체인오브소트 형태의 <think> 블록을 출력하도록 구성되어 reasoning_content 필드로 내부 추론을 분리해 제공할 수 있다. 이 동작은 서버 측 파서 설정으로 구조화된 추론 로그와 툴 콜을 생성하도록 조정되어 에이전트 디버깅 및 의사결정 추적에 유리하다. README는 qwen3 기반의 reasoning 파서와 tool-call 파서를 서빙 예시에 포함했다.
• 긴 컨텍스트 처리를 위한 여러 설정과 서빙 최적화가 제공되어 128K에서 262144 토큰 범위의 작업을 지원하도록 구성할 수 있다. vLLM 서빙 예시는 max-model-len 옵션과 텐서 병렬 설정을 포함해 실운영 환경에서 긴 컨텍스트를 다루기 위한 구체적인 매개변수를 제시한다. 긴 컨텍스트 운영은 메모리 분할과 GPU 병렬화 전략을 필요로 한다는 점이 문서에 명시되어 있다.
• OpenAI 호환의 tool_calls 출력 형식을 표준화해 다양한 에이전트 프레임워크와 즉시 연동 가능하도록 설계되었다. README에 제시된 OpenAI 호환 API 예시와 MCP·OpenClaw 연동 예시는 툴 호출을 서버가 자동으로 해석해 외부 함수로 연결하는 흐름을 보여준다. 이로 인해 에이전트 기반 자동화 작업의 통합 비용이 낮아진다.

차별점

• Ornith은 MoE 기반 35B 모델을 Gemma4와 Qwen3.5 상단에서 포스트트레이닝한 계열 모델로서 공개 모델군에서 MoE 설계를 채택한 점이 차별화 요소이다. 이 설계는 동일한 파라미터 예산에서 더 높은 표현력을 확보하려는 목적을 가진다. README는 MoE가 계열 구성에서 주요 변형임을 명시하고 있다.
• 훈련에서 자기개선형 RL로 스캐폴드와 솔루션을 함께 최적화하는 접근법을 사용해 단순한 SFT 대비 에이전트 탐색 성능을 개선하려는 점이 차별점이다. 이 접근은 에이전트형 코드 생성에서 더 나은 탐색 경로를 학습하는 데 초점을 맞춘다. README는 이 메커니즘을 모델의 핵심 설계로 제시하고 있다.
• 기본 출력 포맷으로 <think> 체인오브소트를 포함하고 서버 파서를 통해 reasoning_content와 tool_calls를 구조화해 제공하는 점이 통합 관점에서 실무적 이점이다. 이 통합은 디버깅과 외부 도구 연동을 단순화해 에이전트 워크플로에서의 적용성을 높인다. 서빙 예제는 vLLM과 SGLang에서의 구체적 파서 설정을 포함한다.
• 배포 측면에서 단일 GPU 환경을 목표로 한 경량화된 멤버로서 35B 모델을 제공하며 동시에 GGUF와 llama.cpp 등 경량 런타임 호환성을 제공해 다양한 배포 옵션을 지원한다. README에 로컬 테스트용 Transformers 예시와 GGUF 배포 예시가 병기되어 있어 배포 경로가 다변화되어 있다. 이 점이 오픈소스 실무 도입을 용이하게 만든다.

벤치마크

이미지 분석