CMU 연구진, 행동 건강 전문가를 위한 AI 챗봇 'PeerCoPilot' 개발

핵심 요약

카네기 멜론 대학교(CMU) 연구진이 행동 건강 분야 종사자들을 지원하기 위해 설계된 AI 챗봇 'PeerCoPilot'을 개발했다. 이 도구는 정신 건강 지원 전문가들이 웰니스 계획을 수립하고 복지 혜택 자격을 확인하는 등 실질적인 업무를 돕기 위해 제작되었다. 특히 검색 증강 생성(RAG) 기술을 도입하여 검증된 데이터베이스에서만 정보를 추출함으로써 AI의 고질적인 문제인 할루시네이션(환각)을 최소화했다. 이번 연구는 실제 현장 전문가들과의 협력을 통해 사용자 경험을 최적화했으며, 향후 다양한 지역 사회 지원 단체로 확산될 전망이다.

배경

RAG(Retrieval-Augmented Generation) 개념, LLM의 기본 작동 원리

대상 독자

행동 건강 전문가, 사회 복지사, AI 에이전트 개발자, HCI 연구자

의미 / 영향

이 연구는 AI가 단순한 챗봇을 넘어 사회 복지 현장의 복잡한 행정 및 상담 업무를 안전하게 보조할 수 있음을 보여준다. 특히 RAG와 참여형 디자인의 결합은 공공 서비스 분야 AI 도입의 표준 모델이 될 수 있다.

섹션별 상세

PeerCoPilot은 정신 건강 상담사들이 내담자를 위해 구체적인 행동 계획을 세우고 복지 혜택을 조회하는 과정을 자동화하고 지원한다. 예를 들어 주거 지원이 필요한 내담자에게 근처 임시 보호소를 찾아주고, 신청에 필요한 신분증 발급 계획까지 함께 수립할 수 있도록 돕는다. 이는 상담사의 행정적 부담을 줄이고 내담자에게 더 정확한 정보를 제공하는 데 목적이 있다.

기술적으로는 검색 증강 생성(RAG) 방식을 채택하여 정보의 신뢰성을 극대화했다. 일반적인 대규모 언어 모델(LLM)이 인터넷의 방대한 데이터를 무작위로 학습하여 부정확한 답변을 내놓을 수 있는 것과 달리, PeerCoPilot은 검증된 지역 사회 서비스 데이터베이스와 공공 복지 문서 등 승인된 리소스에서만 답변을 생성한다. 이를 통해 민감한 정신 건강 분야에서 발생할 수 있는 오정보 리스크를 기술적 가드레일로 차단했다.

연구진은 '참여형 AI 디자인(Participatory AI Design)' 방식을 적용하여 실제 현장의 목소리를 반영했다. 뉴저지 협력 지원 프로그램(CSPNJ)의 동료 지원 전문가들과 2년간 협력하며 그들의 실제 워크플로우와 필요 사항을 분석했다. 기술적 배경이 없는 사용자들도 도구를 효과적으로 활용할 수 있도록 인간-컴퓨터 상호작용(HCI) 방법론을 동원하여 사용자 인터페이스와 기능을 최적화했다.

이미지 분석

Screenshot
PeerCoPilot의 실제 웹 인터페이스 구조를 보여준다. 'Welcome, naveen!'이라는 문구와 함께 웰니스 계획, 프로필 관리, 캘린더 등 주요 기능 버튼들이 배치되어 있어 도구의 실질적인 활용 모습을 확인할 수 있다.
사용자가 노트북을 통해 PeerCoPilot 인터페이스를 사용하고 있는 모습이다.

실무 Takeaway

민감한 도메인인 의료 및 복지 분야에서는 RAG 기술을 통해 검증된 데이터 소스만 사용하도록 제한함으로써 AI의 신뢰성을 확보할 수 있다.
AI 도구 개발 시 실제 현장 사용자인 도메인 전문가를 초기 단계부터 참여시키는 참여형 디자인이 실질적인 유용성을 높이는 핵심 요소이다.
단순한 정보 제공을 넘어 복지 자격 확인과 실행 계획 수립 등 구체적인 워크플로우를 지원하는 에이전트적 기능이 실무에서 큰 가치를 가진다.