경험형 지능을 위한 Macaron-V1 에이전트 모델군

왜 중요한가

Macaron-V1은 배포 시점에 학습을 끝내는 모델 대신, 실제 환경의 경험을 다음 버전으로 누적하는 에이전트 시스템을 지향한다. 고정된 base model과 역할별 LoRA를 결합하고, model-harness 쌍을 반복 갱신하는 구조를 통해 적응과 협업을 하나의 시스템 안에서 다룬다. 다만 continual learning과 collective intelligence에서 경험이 누적될수록 얻는 추가 이득은 아직 열린 문제로 남아 있다.

핵심 기여

경험 기반 Recursive Self-Improvement

한 구성의 모델-harness 쌍이 실제 환경에서 얻은 경험을 외부 contract 아래에서 평가하고, 그 결과로 후속 버전을 구성하는 recursive self-improvement loop를 사용한다. 모델 자체뿐 아니라 실행 harness와 versioned HCP contract를 함께 갱신하여 배포 환경의 변화가 다음 시스템 구성에 반영된다. 이 과정이 Macaron-V1의 adaptation 목표를 구성한다.

Mixture-of-LoRA 협업 구조

744B GLM-5.2 base를 고정하고 chat, agent, coding, GenUI용 네 LoRA를 결합한 Macaron-V1-Venti를 구성한다. 각 사용자 turn에서 네 specialist 중 하나를 선택하므로 기능별 지식을 하나의 거대한 가중치 갱신에 묶지 않는다. 같은 설계를 Qwen3.6 기반 50B Macaron-V1-Tall에도 적용해 local deployment 경로를 마련한다.

에이전트 학습을 위한 시스템 구성

UI4A component-native GenUI harness, stateful action substrate, versioned HCP contract, MindForge agentic RL framework를 하나의 학습·실행 체계로 묶는다. MinT post-training platform과 LongStraw long-context RL method가 후처리 학습과 긴 문맥 강화학습을 지원한다. sparse MoE와 DSA base model의 안정화 기법도 시스템 인프라 범위에 포함한다.

핵심 아이디어 이해하기

기존 언어 모델은 일반적으로 고정된 base model의 가중치를 Fine-tuning하거나 별도 모델을 추가해 특정 작업을 수행한다. 이 방식에서는 배포 뒤 얻은 경험을 계속 반영하려면 전체 모델을 다시 학습하거나 여러 버전을 별도로 관리해야 한다. Macaron-V1은 base model을 고정하고 기능별 LoRA adapter를 분리해 chat, agent, coding, GenUI처럼 서로 다른 전문성을 조합한다. 사용자 turn이 들어오면 시스템이 한 LoRA를 선택해 출력을 만들고, 환경에서 얻은 경험은 model-harness pair와 외부 contract를 거쳐 다음 버전으로 전달한다. 따라서 입력은 사용자 요청과 환경 상태이고, 처리는 적합한 specialist 선택과 harness 기반 행동이며, 출력은 응답 또는 환경 행동으로 이어진다.

방법론

Macaron-V1은 architecture, algorithm, infrastructure를 함께 설계하는 시스템 접근을 취한다. 중심 구조에서는 base model을 고정하고 여러 LoRA specialist를 저장한 뒤 사용자 turn마다 하나의 LoRA를 선택해 전문 기능을 실행한다. Macaron-V1-Venti는 744B GLM-5.2 base와 chat, agent, coding, GenUI용 네 LoRA를 사용하며, Macaron-V1-Tall은 Qwen3.6 기반 50B 구성으로 같은 설계를 local deployment에 적용한다. 적응 루프에서는 환경 경험을 외부 contract로 평가하고, versioned model-harness pair의 후속 버전을 구성한다. UI4A harness와 stateful action substrate는 GenUI 행동과 상태를 연결하고, MindForge, MinT, LongStraw는 agentic RL, post-training, long-context RL을 각각 지원한다.

주요 결과

Macaron-V1은 Personal Intelligence, GenUI, general capability benchmark에서 frontier baseline과 비교 평가를 받았다. 평가 대상에는 744B GLM-5.2 기반 Macaron-V1-Venti와 Qwen3.6 기반 50B Macaron-V1-Tall의 서로 다른 배포 구성이 포함된다. 보고된 결과는 현재 시스템의 성능을 뒷받침하지만, continual learning과 collective intelligence가 반복 경험을 통해 만들어낼 누적 이득은 아직 확인해야 할 과제로 남아 있다.

기술 상세

Mixture-of-LoRA는 전체 base model 파라미터를 업데이트하지 않고, 고정된 base model 위에 여러 LoRA adapter를 구성하는 핵심 아키텍처다. 입력은 사용자 turn이며, 시스템은 chat, agent, coding, GenUI specialist 가운데 하나를 선택한 뒤 해당 adapter와 base model을 통과시켜 응답 또는 행동을 출력한다. Macaron-V1-Venti에서는 744B GLM-5.2와 네 LoRA를 결합하고, Macaron-V1-Tall에서는 Qwen3.6 기반 50B 모델에 같은 설계를 적용한다. 적응 알고리즘은 한 model-harness 구성에서 수집한 경험을 external contract로 평가하고 successor 구성에 반영하는 recursive self-improvement loop다. GenUI에는 UI4A component-native harness와 stateful action substrate를 사용하며, MindForge는 agentic RL을, MinT는 post-training을, LongStraw는 long-context RL을 맡는다. 인프라 측면에서는 sparse MoE와 DSA base model을 대상으로 한 안정화 기법도 함께 사용하지만, 제공된 초록에는 해당 기법의 수식과 세부 학습 설정이 없다.

한계점

논문은 continual learning과 collective intelligence에서 경험 누적에 따른 추가 성능 향상이 아직 열린 문제라고 밝힌다. 현재 시스템의 benchmark 결과는 보고했지만, 반복 학습이 장기간에 걸쳐 어느 정도의 복합적 이득을 만드는지는 확정되지 않았다.

실무 활용

Macaron-V1의 구조는 대규모 base model을 고정하고 기능별 LoRA를 교체하는 에이전트 배포에 활용할 수 있다. Venti는 744B GLM-5.2 기반 구성이고 Tall은 Qwen3.6 기반 50B local deployment 구성이라 배포 환경에 따라 시스템 규모를 나눌 수 있다. 다만 구체적인 공개 코드와 재현 절차는 제공된 초록에서 확인되지 않는다.

chat, agent, coding, GenUI 작업을 하나의 base model과 역할별 LoRA로 운영하는 에이전트 시스템
Qwen3.6 기반 50B Macaron-V1-Tall을 활용한 local deployment
UI4A harness와 stateful action substrate를 이용한 component-native GenUI 작업
배포 환경의 경험을 외부 contract로 평가해 후속 model-harness 버전에 반영하는 continual learning

코드 공개 여부: 미확인

키워드

Macaron-V1(경험 기반 에이전트 모델군)Mixture-of-LoRA(역할별 LoRA 조합 구조)Model-Harness Co-design(모델과 실행 환경 공동 설계)Recursive Self-Improvement(경험 기반 반복 개선)Continual Learning(지속 학습)MindForge(agentic RL 프레임워크)GenUI(생성형 사용자 인터페이스)

용어 해설

Model-Harness 공동 설계(Model-Harness Co-design): — 모델의 가중치만 따로 개선하지 않고, 모델이 경험을 수집하고 행동하는 harness까지 함께 설계하는 접근이다. 모델과 실행 환경의 상호작용 결과를 외부 계약으로 평가한 뒤 다음 버전의 모델-harness 조합에 반영하여 실제 배포 환경의 적응을 지속한다.
Mixture-of-LoRA: — 하나의 base model을 고정한 상태에서 여러 LoRA adapter를 전문 기능별로 결합하고, 사용자 발화마다 적합한 adapter 하나를 선택하는 구조다. 전체 모델을 반복 Fine-tuning하지 않고 chat, agent, coding처럼 역할별 업데이트를 분리해 지속적인 확장을 지원한다.
GenUI: — 에이전트가 사용자 인터페이스를 생성하고 조작하는 환경을 뜻한다. Macaron-V1에서는 UI 요소를 단순 이미지가 아니라 component 단위로 다루는 UI4A harness와 연결하여, 상태를 유지하는 행동 substrate 위에서 인터페이스 관련 작업을 수행하도록 구성한다.
Continual Learning: — 모델이 배포 이후에도 새로운 경험을 받아들이고 기존 능력을 유지하면서 계속 학습하는 방식이다. 이 논문에서는 확장 가능한 LoRA specialist와 versioned model-harness pair를 이용해 환경에서 얻은 경험을 다음 시스템 버전에 누적하는 경로로 활용한다.