DVC를 데이터 레지스트리로 활용한 설명 가능하고 오프라인 작동이 가능한 AI 구축 사례: Bast AI의 Medic Co-pilot

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

규제와 안전이 중요한 의료 환경에서 AI의 불투명성은 큰 위험 요소이다. Bast AI는 DVC를 단순한 데이터셋 관리를 넘어 PDF 원본, 페이지 이미지, 온톨로지 등 모든 파이프라인 에셋을 기록하는 데이터 레지스트리로 활용한다. 이를 통해 구축된 'Medic Co-pilot'은 오프라인에서도 작동하며, 모든 답변에 대해 시각적 증거와 출처를 명확히 제시한다. 결과적으로 데이터의 계보를 명확히 함으로써 감사 가능한 신뢰할 수 있는 AI 아키텍처를 실현했다.

배경

DVC 기본 개념, RAG(검색 증강 생성) 아키텍처 이해, 데이터 버전 관리의 필요성

대상 독자

규제 산업(의료, 국방, 금융) LLM 애플리케이션 개발자 및 MLOps 엔지니어

의미 / 영향

AI의 블랙박스 문제를 해결하기 위해 데이터 버전 관리 도구를 아키텍처의 핵심 레지스트리로 활용하는 패턴을 제시한다. 이는 단순한 성능 향상을 넘어 법적/윤리적 책임이 따르는 전문 분야에서 AI 실용화의 핵심 이정표가 될 것이다.

섹션별 상세

DVC를 비정형 데이터의 시스템 레코드(System of Record)로 정의함. 단순 데이터셋 버전 관리를 넘어 PDF, 이미지, 온톨로지 등 답변의 신뢰성을 구성하는 모든 요소를 레지스트리에 등록함. 이를 통해 답변에서 소스 문서까지 이어지는 완전한 계보 추적이 가능함.

Medic Co-pilot의 4단계 데이터 처리 공정을 구축함. AWS S3에 저장된 원본 PDF를 페이지 단위 이미지와 텍스트로 분할하고 이를 DVC로 추적함. 추출된 텍스트는 OpenSearch에 저장되지만, 모든 검색 결과는 DVC가 관리하는 시각적 원본 이미지와 연결됨.

Bast AI의 Medic Co-pilot 시스템 아키텍처 다이어그램 — DiagramLLM, 데이터 레지스트리(DVC), 벡터 DB(OpenSearch), 클라우드 스토리지(S3) 간의 상호작용을 보여준다. 특히 DVC가 파이프라인의 각 단계(Raw, Staging, Processed, Models, Configuration)를 어떻게 관통하며 버전 관리와 계보 추적을 수행하는지 시각화한다.

온톨로지 기반의 결정론적 응답 체계를 도입함. 고위험 의료 절차에는 Protégé로 설계된 지식 그래프를 적용하여 항상 일관된 답변을 보장함. DVC는 이 온톨로지 파일의 변경 이력을 관리하여 시스템 행동 변화의 원인을 즉각 파악할 수 있게 함.

오프라인 작동을 위한 패키징 전략을 수립함. 버전 관리된 소스, 파생 에셋, 검색 컨텍스트를 하나의 번들로 묶어 인터넷 연결 없이도 기기에서 직접 구동함. 이는 현장 대응이 필요한 의료나 국방 분야의 특수 요구사항을 충족함.

팀 협업을 위한 데이터 커밋 문화를 강조함. 데이터 변경 사항을 코드처럼 빈번하게 커밋하고 상세한 메시지를 남겨 파이프라인 에셋의 파편화를 방지함. 이는 복잡한 비정형 데이터 파이프라인에서 팀원 간의 작업 충돌을 막는 핵심 요소임.

실무 Takeaway

의료와 같이 신뢰가 핵심인 도메인에서는 텍스트 답변뿐만 아니라 DVC로 관리되는 원본 페이지 스크린샷을 함께 제공하여 사용자의 시각적 검증을 지원해야 함
LLM의 확률적 특성을 보완하기 위해 DVC로 버전 관리되는 온톨로지 파일을 활용하여 고위험 시나리오에 대한 결정론적 응답 경로를 확보해야 함
오프라인 환경 대응을 위해 데이터 버전 관리를 기반으로 소스 문서와 검색 인덱스를 하나의 검증된 번들로 패키징하는 설계가 필요함

언급된 리소스

문서DVC Documentation

문서Bast AI Website