인간 상태를 따라가는 에이전트 설계

기존 Agentic AI는 Digital Agents의 소프트웨어 상태나 Embodied Agents의 물리 상태를 중심으로 작업 완료, 효율, 안전을 측정하는 경향이 있습니다. Combodied Agents는 센서, 웨어러블, 소프트웨어, 로봇을 행동 채널로 사용하되 개인의 상태와 agency가 시간에 따라 어떻게 변하는지를 주된 모델링·개입·평가 대상으로 삼습니다. 이를 통해 자동화가 사용자의 이해와 역량을 약화시키는지, 또는 건강·학습·판단·관계·목표 추구를 실제로 지속 가능하게 지원하는지 평가할 연구 의제가 생깁니다.

기존 Agentic AI의 기본 루프는 관측을 내부 상태로 바꾸고 목표와 계획에 따라 행동한 뒤 환경의 다음 상태를 다시 관측하는 구조입니다. Digital Agents에서는 이 환경 상태가 화면, 코드, API, 파일 같은 디지털 산출물이고, Embodied Agents에서는 위치, 물체, 로봇 몸체 같은 물리 상태입니다. 이 구조만으로는 약 복용을 거부한 사람이 잊었는지, 부작용을 겪는지, 의도적으로 거부하는지 구분하기 어렵습니다.

Combodied Agents는 에이전트의 최종 대상 상태를 사람으로 옮깁니다. 언어, 음성, 영상, 생리 신호, 움직임, 사회적 맥락, 기관 기록에서 단편적인 관측을 모은 뒤 시간과 출처를 보존한 사건 증거로 정리하고, 이를 현재 목표와 종단 메모리에 결합해 개인 상태의 불확실한 표현을 만듭니다. 따라서 한 번의 심박수 상승을 곧바로 스트레스나 질병으로 확정하지 않고, 운동 여부·기온·회복 속도·사용자 보고와 함께 해석합니다.

Personal World Model은 이 개인 상태에서 여러 미래 경로를 비교합니다. 입력은 과거 사건 증거, 현재 맥락, 사용자 목표, 사용자 행동과 에이전트 개입의 후보이며, 처리 과정은 개인별 상태를 추정하고 각 시나리오에서 미래 상태·관측 사건·결과의 분포를 산출하는 방식입니다. 출력은 행동 허가가 아니라 시나리오별 예측이고, 실제 개입을 선택하는 일은 동의, 안전, 불확실성, 가역성, 사용자 통제를 검사하는 Intervention Policy가 맡습니다.

마지막으로 사용자의 수용·거부·수정과 환경의 결과가 다음 관측, 메모리, 예측, 정책으로 되돌아갑니다. 이 피드백 구조는 에이전트가 같은 알림을 반복하는 대신 개인별 개입 반응을 축적하게 합니다. 목표는 최대 자동화나 참여 시간 증가가 아니라 사용자가 더 잘 이해하고 결정하고 행동하며 장기적으로 역량과 자율성을 유지하도록 지원하는 것입니다.

논문은 Combodied Agents를 연속적인 멀티모달 감지와 종단 상호작용으로 개인의 변화하는 상태를 인식하고, 모델링하고, 지원하는 에이전트로 정의합니다. 시스템은 인간 상태 인식, 종단 메모리, Personal World Model, Intervention Planning and Delivery의 네 기능으로 구성되며, 각 기능 전체에 안전·불확실성·동의·사용자 통제가 적용됩니다.

인식 단계에서는 원시 스트림을 그대로 축적하지 않고 품질 확인, 사건 후보 분할, 시간 정렬, 다중 출처 비교, 개인 기준선과의 대조를 거쳐 사건 증거 기록을 만듭니다. 기록에는 관측 시각과 획득 시각, 센서·출처, 처리 과정, 신뢰도, 대안적 해석, 민감도, 동의 범위, 보존·삭제 조건이 포함됩니다. 관측과 사건, 추론된 상태, 예측 궤적, 개입 허가를 서로 다른 단계로 분리해 과도한 추론을 막습니다.

종단 메모리는 일화, 안정적 개인 사실, 상태 변화 궤적, 목표와 약속, 관계, 개입 반응, 사용자 통제 정보를 연결합니다. Personal World Model은 이 메모리와 현재 맥락, 목표, 후보 시나리오를 사용해 생리·인지·감정·행동·사회·관계 상태와 관련 결과의 미래 분포를 산출합니다. 데이터가 희소한 개인에게는 모집단 또는 도메인 사전 지식에서 시작해 제한적인 개인화 구성 요소를 갱신하고, 짧은 피로 예측과 중기 습관 모델처럼 시간 범위별로 별도의 모델과 검증 기준을 사용할 수 있습니다.

정책 단계에서는 비개입, 설명, 확인, 알림, 추천, 코칭, 보호, 조정, 실행, 전문가 의뢰를 후보로 두고 동의·권한·위험·불확실성·가역성을 통과한 행동만 선택합니다. 개입 뒤에는 사용자의 행동과 환경 결과를 관측해 메모리와 모델을 갱신하며, 높은 예측 효용만으로 안전이나 동의를 대체하지 않습니다. 배치 구조는 클라우드 중심에서 에지와 클라우드의 혼합을 거쳐 사용자 소유의 에지 중심 개인 모델로 이동하는 세 단계로 정리됩니다.

이 논문은 새로운 단일 모델의 수치 성능보다 Combodied Agents를 위한 연구 구조와 평가 의제를 정리합니다. 기존 에이전트 유형은 실행, 물리적 작동, 기억, 개인화, 건강 지원, 학습 보조, 동반자 기능을 각각 제공하지만, 개인의 장기 상태 궤적과 개입 반응을 하나의 루프로 연결하지 못하는 한계를 공유합니다. 그 결과 작업 성공은 측정해도 역량 성장, agency 손실, 관계 영향, 장기 웰빙은 충분히 측정하지 못합니다.

제안된 구조에서는 사건 증거와 종단 메모리가 개인 상태 추정의 입력이 되고, Personal World Model이 대안적 결정과 개입 아래의 상태·사건·결과 궤적을 비교합니다. Intervention Policy는 비개입과 확인 요청까지 포함한 허용 행동 집합에서 지원을 고르며, 이후 사용자의 수용·거부·수정과 환경 결과가 다음 상태 추정과 모델 적응에 사용됩니다. 논문은 이 흐름을 시나리오 중심 평가, agency 보존 지표, 안전·동의·가역성 제약과 결합해야 한다고 정리합니다.

평가 대상은 단기 작업 완료에 한정되지 않고 건강, 학습, 판단, 역량, 자율성, 관계의 질, 안전, 목표 진전과 같은 인간 결과로 확장됩니다. Personal World Model의 검증 항목으로 개인 궤적 타당성, 개입 반응 정확도, 확률 보정, 시나리오 판별을 들며, 장기 예측은 불확실성이 커지는 시나리오로 취급해야 한다고 설명합니다. 구체적인 실험 수치나 공개 코드 저장소는 본문에 제시되지 않았습니다.

시스템은 관측으로부터 직접 행동을 결정하지 않고, 먼저 통제된 사건 증거 이력과 현재 맥락·목표를 사용해 불확실성을 포함한 개인 상태 표현을 구성합니다. 종단 메모리에서 검색한 사건은 시간, 출처, 양식, 신뢰도, 민감도, 관련 목표, 이전 개입과 결과를 유지하며, 사용자의 정정·삭제 요청도 별도 통제 정보로 저장합니다.

Personal World Model의 입력은 개인의 사건 증거 이력, 현재 시공간 맥락, 목표, 사용자 행동·에이전트 개입·환경 변화로 이루어진 후보 시나리오입니다. 모델은 이를 개인 상태에 동화한 뒤 미래 잠재 상태, 관측 가능한 개인 사건, 시나리오 관련 결과의 확률 분포로 변환하며, 결과에는 순응, 목표 진전, 웰빙, 역량, 안전, 관계의 질, agency 보존이 포함될 수 있습니다. 사용자 반응과 환경 변화가 확정되지 않은 경우 하나의 사실로 고정하지 않고 롤아웃에서 샘플링하거나 여러 가능성을 통합합니다.

개입 선택은 예측 모델과 별도의 허용성 경계에서 수행됩니다. 후보 행동은 비개입, 명확화, 확인, 알림, 추천, 코칭, 넛지, 성찰, 조정, 보호, 에스컬레이션, 외부 작업 실행을 포함하며, 동의·범위·안전·불확실성·가역성·전문가 의뢰 조건을 통과해야 합니다. 따라서 예측된 효용이 높아도 사용자가 허용하지 않았거나 위험을 되돌리기 어렵다면 행동 집합에서 제외됩니다.

논문은 인과 개입 분포와 동일 개인의 반사실 결과를 구분합니다. 특정 개입을 했을 때의 결과를 인과적으로 추정하려면 잠재 결과 또는 구조적 인과 모델, 교란 요인 통제, 일관성·양성 등의 가정과 함께 무작위 또는 마이크로 무작위 개입 연구가 필요하며, 단순히 개입 연산을 표기하는 것만으로 교란이 제거되지는 않습니다. 또한 희소한 개인 데이터로 처음부터 모델을 학습하지 않고 모집단 사전 지식, 제한적 개인화, 불확실한 상태·파라미터 추적, 개인·환경 드리프트 감지를 조합하는 방향을 취합니다.

배치 측면에서는 사용자의 종단 메모리, Personal World Model, 선호, Intervention Policy, 안전 경계를 사용자 장치에 우선 보관하는 edge-native personal model을 지향합니다. 클라우드는 전문 지식이나 대규모 연산을 제공할 수 있지만, 에지 계층이 개인 정보 공개를 필터링하고 반환 결과를 해석하며 최종 행동 권한을 통제합니다. 이 구조는 개인정보, 지연, 연결 단절, 검사와 초기화 가능성을 고려해 작업별·위험도별로 클라우드 의존성을 조정합니다.

논문은 완전한 Human Digital Twin이 현재 달성하기 어렵다고 명시합니다. 인간의 생리·인지·행동·관계·맥락이 여러 시간 척도에서 상호작용하고, 감지는 불완전하며, 모델 검증·동기화·연산·개인정보·거버넌스 문제가 남아 있기 때문입니다. 또한 Personal World Model은 단일 범용 예측기가 아니라 목표·시간 범위·도메인·권한 수준마다 별도로 검증해야 하는 구성 요소로 규정됩니다.

개인 데이터가 희소하면 개인별 모델을 처음부터 학습하기 어렵고 장기 예측의 불확실성도 커집니다. 센서 오류, 착용하지 않은 상태, 지연된 기관 기록, 여러 출처의 공통 실패, 사용자 보고의 불완전성은 개인 상태 추정과 개입 반응 예측을 흔들 수 있습니다. 높은 통계적 확률이나 여러 모달리티의 일치는 센서 신뢰성, 인과적 타당성, 개입 권한을 자동으로 보장하지 않습니다.

논문은 구체적인 단일 벤치마크 결과나 공개 구현을 제시하지 않고, 시나리오 중심 벤치마크와 agency 보존·역량 성장·관계 안전·장기 웰빙 평가를 향후 과제로 둡니다. 특히 고위험 영역에서는 모델 개선을 위해 무제한 탐색을 수행해서는 안 되며, 동의·역할·가역성·에스컬레이션과 사용자 검사를 별도로 보장해야 합니다.