OncoAgent: 프라이버시 보호형 종양학 임상 의사결정 지원을 위한 이중 계층 멀티 에이전트 프레임워크

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

OncoAgent는 종양학 분야의 복잡한 임상 의사결정을 지원하기 위해 설계된 오픈소스 멀티 에이전트 프레임워크이다. 이 시스템은 환자 데이터의 외부 유출을 방지하기 위해 AMD Instinct MI300X 하드웨어에서 ROCm 기반으로 구동되는 온프레미스 환경을 지원한다. LangGraph를 이용한 8개 노드 아키텍처와 Corrective RAG(CRAG) 파이프라인을 통해 NCCN 및 ESMO 가이드라인에 근거한 답변을 생성한다. 특히 QLoRA와 Unsloth 프레임워크를 활용해 26만 건 이상의 임상 사례를 학습하여 기존 API 방식 대비 56배 빠른 데이터 처리 속도를 달성했다.

배경

LangGraph 및 멀티 에이전트 아키텍처에 대한 이해, RAG(Retrieval-Augmented Generation) 및 CRAG 개념, AMD ROCm 환경에서의 LLM 파인튜닝 지식

대상 독자

의료 AI 시스템을 구축하는 엔지니어 및 프라이버시가 중요한 병원 환경의 데이터 과학자

의미 / 영향

OncoAgent는 고성능 의료 AI가 반드시 폐쇄적인 유료 API에 의존할 필요가 없음을 증명한다. 오픈소스 모델과 특정 하드웨어 최적화를 통해 병원 자체 인프라에서도 전문의 수준의 의사결정 지원이 가능해짐에 따라 의료 데이터 주권 확보에 중요한 이정표가 될 것이다.

섹션별 상세

종양학의 복잡성에 대응하기 위해 LangGraph 기반의 8개 전문 노드로 구성된 멀티 에이전트 아키텍처를 채택했다. 각 노드는 라우팅, 데이터 수집, CRAG, 전문가 추론, 비판, 인간 개입(HITL) 등의 독립적인 기능을 수행하며 AgentState를 통해 상태를 관리한다. 이를 통해 복잡한 동반 질환 사례에서도 컨텍스트 포화 없이 정밀한 추론이 가능하다. 최종적으로 전문의가 검토할 수 있는 투명한 추론 과정을 제공한다.

임상 사례의 난이도에 따라 모델을 동적으로 할당하는 이중 계층(Dual-Tier) 라우팅 시스템을 구현했다. 암 종류, 병기, 돌연변이 유무 등을 수치화한 복잡도 점수(S)가 0.5 이상이면 27B 파라미터의 Qwen 모델(Tier 2)을, 그 미만이면 속도에 최적화된 9B 모델(Tier 1)을 호출한다. 이 방식은 자원 효율성을 극대화하면서도 고난도 사례에 대해 깊은 추론 능력을 보장한다.

환자 정보 보호를 위해 Zero-PHI 정책을 강제하는 데이터 수집 노드를 최우선으로 배치했다. 이름, 생년월일, 의료기록번호(MRN) 등 개인 식별 정보를 LLM에 전달하기 전에 임상적으로 중립적인 자리표시자로 대체한다. 로컬 인프라에서 구동되는 특성과 결합하여 HIPAA 및 GDPR 준수가 가능한 안전한 의료 AI 환경을 구축했다.

AMD Instinct MI300X 하드웨어와 Unsloth 프레임워크를 결합하여 학습 및 추론 성능을 획기적으로 개선했다. QLoRA 기법과 시퀀스 패킹(Sequence Packing) 기술을 적용하여 266,854개의 데이터셋을 단 50분 만에 파인튜닝하는 데 성공했다. 이는 기존 API 기반 생성 방식보다 56배 빠른 처리량이며, 하드웨어 주권을 확보하여 클라우드 의존성을 완전히 제거했다.

실무 Takeaway

LangGraph와 Corrective RAG를 결합하여 의료 가이드라인에 엄격히 접지된 답변을 생성함으로써 LLM의 환각 현상을 방지할 수 있다.
AMD MI300X와 ROCm 환경에서 Unsloth 및 시퀀스 패킹을 적용하면 대규모 임상 데이터셋의 학습 시간을 6배 이상 단축할 수 있다.
Zero-PHI 노드와 온프레미스 배포 모델을 통해 민감한 의료 데이터를 외부 클라우드 API로 전송하지 않고도 고성능 AI 서비스를 운영할 수 있다.

언급된 리소스

GitHubOncoAgent Research Group GitHub

API DocsLangGraph Documentation