OncoAgent: 프라이버시 보호형 종양학 임상 의사결정 지원을 위한 이중 계층 멀티 에이전트 프레임워크

섹션별 상세

종양학의 복잡성에 대응하기 위해 LangGraph 기반의 8개 전문 노드로 구성된 멀티 에이전트 아키텍처를 채택했다. 각 노드는 라우팅, 데이터 수집, CRAG, 전문가 추론, 비판, 인간 개입(HITL) 등의 독립적인 기능을 수행하며 AgentState를 통해 상태를 관리한다. 이를 통해 복잡한 동반 질환 사례에서도 컨텍스트 포화 없이 정밀한 추론이 가능하다. 최종적으로 전문의가 검토할 수 있는 투명한 추론 과정을 제공한다.

근거

Corrective RAG(CRAG) 파이프라인 적용 후 문서 등급 판정 성공률 100%와 평균 RAG 신뢰도 점수 2.3 이상을 기록했다. — Section 8. Results 표의 CRAG Pipeline 항목

임상 사례의 난이도에 따라 모델을 동적으로 할당하는 이중 계층(Dual-Tier) 라우팅 시스템을 구현했다. 암 종류, 병기, 돌연변이 유무 등을 수치화한 복잡도 점수(S)가 0.5 이상이면 27B 파라미터의 Qwen 모델(Tier 2)을, 그 미만이면 속도에 최적화된 9B 모델(Tier 1)을 호출한다. 이 방식은 자원 효율성을 극대화하면서도 고난도 사례에 대해 깊은 추론 능력을 보장한다.

환자 정보 보호를 위해 Zero-PHI 정책을 강제하는 데이터 수집 노드를 최우선으로 배치했다. 이름, 생년월일, 의료기록번호(MRN) 등 개인 식별 정보를 LLM에 전달하기 전에 임상적으로 중립적인 자리표시자로 대체한다. 로컬 인프라에서 구동되는 특성과 결합하여 HIPAA 및 GDPR 준수가 가능한 안전한 의료 AI 환경을 구축했다.

AMD Instinct MI300X 하드웨어와 Unsloth 프레임워크를 결합하여 학습 및 추론 성능을 획기적으로 개선했다. QLoRA 기법과 시퀀스 패킹(Sequence Packing) 기술을 적용하여 266,854개의 데이터셋을 단 50분 만에 파인튜닝하는 데 성공했다. 이는 기존 API 기반 생성 방식보다 56배 빠른 처리량이며, 하드웨어 주권을 확보하여 클라우드 의존성을 완전히 제거했다.

근거

AMD MI300X에서 시퀀스 패킹을 통해 266,854개의 샘플을 50분 만에 파인튜닝했으며, 이는 API 기반 생성 대비 56배 빠른 속도이다. — Abstract 및 Section 5.4 Sequence Packing and Throughput Breakthrough

기술

LangGraph
QLoRA
AMD Instinct MI300X
ROCm
Unsloth
Qwen
Gradio

활용 사례

종양학 임상 의사결정 지원 시스템(CDSS)
프라이버시 보호형 온프레미스 의료 챗봇
대규모 의료 가이드라인 기반 검색 증강 생성

언급된 리소스

GitHubOncoAgent Research Group GitHub

API DocsLangGraph Documentation