Cura 1T: 에이전트 중심 self-evolution 루프로 구축한 의료 특화 대형 언어모델

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

의료 현장은 환자 상담, 전문가 추론, EHR 도구 사용처럼 서로 다른 실패 모드를 가진 복합적 작업을 요구하므로 단일 벤치마크나 일반적 의료 데이터 업데이트로는 균형 잡힌 성능을 얻기 어렵다. Cura 1T는 평가에서 드러나는 구체적 실패를 근거로 데이터 혼합을 반복적으로 수정하는 self-evolution 루프를 중심으로 설계되어, 특정 능력을 개선하면서 기존 능력의 소실을 최소화하는 실무 지향적 접근을 제시했다. 이 방식은 부족하고 편향된 도메인 데이터 환경에서 무엇을 추가·보존해야 하는지 자동화된 증거 기반 절차를 통해 찾아내는 점에서 임상용 모델 개발 흐름에 실질적 함의를 제공한다.

왜 중요한가

핵심 기여

데이터-우선 self-evolution 루프 설계

루프는 계획-학습-평가-정제-검토의 순환으로 작동하며, 각 라운드에서 훈련 에이전트가 실패 궤적을 읽어 근본 원인을 규명하고 타깃 합성 데이터를 생성해 다음 혼합에 반영했다. 인간 검토는 계획 승인과 라운드 결과의 keep/revert 결정을 가로막는 게이트 역할을 해 안전성과 추적성을 유지했다. 이 프로세스는 단일 대규모 업데이트가 아닌 누적된 검증 혼합으로 최종 모델을 만든다.

LoRA 어댑터 기반의 경량 트레이닝 스택과 단계적 학습 파이프라인

대규모 모델을 실험적으로 반복 업데이트하기 위해 LoRA 어댑터를 사용하여 파라미터 효율적 적응을 실행했다. 각 라운드는 SFT로 혼합·하이퍼파라미터의 기본 적합성을 확인한 뒤 RL로 정책 수준의 개선을 적용하고 마지막에 SDFT로 교사-학생 분포를 통해 업데이트를 안정화하는 SFT→RL→SDFT 파이프라인을 따랐다. 이 구성은 긴 추론 흐름과 온-폴리시 보존을 요구하는 의료 과제에 맞춰 설계되었다.

실패 유형별 타깃 데이터 합성 기술

에이전트는 Reasoning Correction, Knowledge Injection, Behavior Calibration, Retention Anchor 같은 구체적 데이터 합성 전략을 사용해 실패 패턴에 맞는 예시를 생성하고 혼합을 재가중치·중복제거했다. 각 합성 전후에 형식·안전·중복·커버리지 검증 게이트를 거쳐 훈련 입력으로 들어갔으며, 이로써 수리적 복구가 다른 능력을 해치지 않도록 설계되었다. 특정 실패가 다른 영역에서의 성능 저하를 유발하면 해당 라운드는 revert되어 기록은 남기되 혼합에는 포함되지 않았다.

의료 벤치마크 전반에서의 성능 개선과 일반성 보존

Cura 1T는 MedAgentBench, HealthBench Professional, MedXpertQA, AgentClinic 등 다수의 의료 벤치에서 기반 모델(Kimi-K2.6) 대비 유의미한 성능 향상을 보였으며 표준화된 합산 혼합으로 통합 후에도 대체 모델들과 경쟁력 있는 결과를 유지했다. 추가로 AIME, GPQA-Diamond, τ²-벤치 같은 도메인 밖 평가에서 일반 추론·에이전트 성능이 크게 손상되지 않아 특화 훈련이 기본 능력들을 붕괴시키지 않았음이 관찰되었다. 이러한 결과는 데이터 혼합을 반복적으로 정제하는 전략이 의료 특화와 범용성 사이의 균형을 맞출 수 있음을 시사한다.

핵심 아이디어 이해하기

의료 과제는 환자 대화, 전문적 추론, 도구 기반 워크플로처럼 서로 다른 실패 모드를 가진 복합적 작업들을 포괄하므로 단일 유형의 데이터 추가로는 모든 결함을 고르기 어렵다. 기존 방식은 주로 범용의 의학 데이터 추가나 하이퍼파라미터 탐색에 집중했으나, 이들은 특정 결함을 해결할 때 다른 능력을 잠식하는 '잊힘' 현상을 야기했다. Cura는 이 문제를 데이터 혼합 구성 문제로 재정의하고 평가 실패를 근거로 어떤 데이터가 빠졌는지를 찾아서 보충하는 방식으로 출발했다.

방법론

Cura의 핵심 해결책은 자동화된 훈련 에이전트가 '무엇이 잘못되었는가'를 판별하고 '어떤 예시를 추가해야 하는가'를 생성하는 데이터-우선 루프에 있다. 루프는 Plan, Train, Evaluate, Refine, Review의 다섯 단계로 구성되어 있고, 각 단계는 인간의 게이트를 통해 계획 승인과 결과의 keep/revert 결정을 받는다. Plan 단계에서 타깃 행동, 벤치마크, 메트릭, 데이터 레시피와 후보 하이퍼파라미터를 규정하고 Train은 LoRA 어댑터를 사용한 SFT→RL→SDFT 스택으로 후보 모델을 생성한다.

주요 결과

전체 벤치마크 합산에서 Cura 1T는 Kimi-K2.6 대비 표준화된 변화량을 보였고, Table 1 기준으로 MedAgentBench에서는 +0.093, HealthBench Professional에서는 +0.159, HealthBench Hard에서는 +0.146, MedXpertQA에서는 +0.086, AgentClinic에서는 +0.042의 개선이 보고되었다. MedAgentBench 개발 경로에서 도구 사용 관련 합성 데이터를 순차적으로 추가해 성공률을 0.883에서 0.973까지 끌어올렸고, 통합 모델은 0.940을 기록해 최첨단 비교군과 유사한 성능 분포를 보였다. MedXpertQA에서는 지식 주입과 retention 조합이 핵심적 전환점이었고 최종 consolidated 모델은 전체 pass@1 0.655를 달성해 일부 비교 모델에 근접하는 성적을 보였다.

기술 상세

전체 아키텍처는 Kimi-K2.6 기반의 1조 규모 모델에 대해 LoRA 어댑터 방식으로 사후 학습을 수행하는 구조이다. 입력으로는 텍스트와 비전을 네이티브로 지원하는 256K 토큰 맥락 창을 사용하며, adapter 레이어만 업데이트하는 방식으로 반복적 실험의 비용을 낮췄다. 훈련 파이프라인은 SFT로 혼합/하이퍼파라미터의 기본 적합성을 확인한 뒤 RL로 목적 보상에 따른 정책 개선을 적용하고 SDFT로 최종 정책을 교사 분포에 가깝게 수렴시켜 안정성을 확보하는 일련의 단계로 구성된다.

한계점

논문은 계산 자원과 데이터, 인력 제약으로 인해 현재 훈련 체계와 혼합이 한정적이라고 명시하고 있으며, 따라서 결과는 현재 훈련 레짐 내에서의 성능이라고 한정된다. 연구자는 장기적 에이전트 작업, 더 넓은 임상 행동 커버리지, 그리고 전체 파라미터 업데이트 같은 추가 실험이 필요하다고 명시했다. 또한 모델은 연구용이며 임상 서비스를 대체할 수 없고, 벤치마크 상의 강점이 임상 배포의 안전성을 보장하지는 못한다.

실무 활용

Cura 1T는 임상적 질문 응답, 멀티모달 영상 포함한 전문적 추론, EHR 도구 호출을 포함한 에이전트형 워크플로 수행 능력을 목표로 설계되어 실제 연구·개발 환경에서의 후속 실험과 프로토타이핑에 적합하다. 공개된 GitHub 저장소(actava-ai/Cura)는 모델·문서 접근성을 제공하므로 실무 팀이 자체 데이터 혼합·자체 검증 루프를 통해 추가 최적화를 진행할 수 있다. 다만 논문에서 명시한 바와 같이 Cura 1T는 연구용 모델이며 임상적 대체 수단으로의 직접 사용은 안전성 검증이 별도로 필요하다.

의료 챗봇 프로토타이핑: 환자 상담용 문장 품질과 임상의 룰 준수 사례를 혼합하여 대화 응답을 개선하는 연구 환경
EHR 도구 호출 검증: FHIR 기반 읽기/쓰기 워크플로를 시뮬레이터에서 시험해 도구-호출 포맷의 취약점을 찾고 합성 데이터로 보강하는 워크플로
멀티모달 진단 보조 연구: 임상 이미지와 텍스트 문맥을 결합한 질문에서 추론 패턴의 결함을 발견하고 타깃 합성 예시로 보완하는 실험

코드 공개 여부: 공개

코드 저장소 보기

키워드

SDFT(Self-distillation Fine-Tuning)LoRA(Low-Rank Adapters)data-mixture(데이터 혼합)EHR/FHIR(EHR 도구 호출 표준)self-evolution(자가진화 루프)

용어 해설

SFT: — 사전학습된 언어모델을 특정 작업의 데모(입력-출력 쌍)로 추가 학습시키는 절차로, Cura에서는 초기 검증 단계로 사용되어 데이터 혼합과 하이퍼파라미터가 의도한 방향으로 동작하는지를 빠르게 확인하는 역할을 한다.
SDFT: — 모델의 온-정책 샘플을 학생 분포로 두고, 추가 문맥으로 생성된 교사 분포를 목표로 하여 KL 발산을 최소화해 업데이트하는 방법으로, 긴 추론흐름에서 오프-폴리시 체인을 직접 복사하지 않으면서 모델 행동을 정교화하는 데 사용된다.
LoRA: — 원본 모델의 전체 가중치를 고정한 채 저순위 분해 행렬을 학습해 파라미터 효율적으로 도메인 적응을 수행하는 기법으로, Cura는 거대한 모델에 대한 반복적 실험을 비용 낮게 수행하기 위해 LoRA 어댑터 중심 학습 스택을 채택했다.
Retention Anchor: — 수정(수정 데이터)을 추가할 때 기존에 잘 작동하던 동작을 덮어쓰지 않기 위해 보존용 예시를 소량 포함하는 데이터 구성 기법으로, Cura의 self-evolution 루프에서 잊힘(forgetting)을 방지하는 핵심 수단으로 작동한다.
FHIR: — 의료정보 교환을 위한 구조화 표준으로서 전자건강기록(EHR) 도구 호출의 읽기/쓰기/완료 요청은 FHIR 리소스 스키마와 임상 콘텐츠 유효성을 만족해야 하며, Cura의 MedAgentBench 평가에서 도구 호출 정확도의 핵심 제약이 되었다.