섹션별 상세
에이전트형 AI는 기존 소프트웨어와 달리 능동적이고 비결정적인 특성을 가지므로, 사용자와의 '조정(Coordination)'이 신뢰와 통제권 확보의 핵심 요소이다.
조정 프레임워크는 인간의 관여도(노력 및 주의), AI 가시성(인터페이스 내 존재감), AI 활동성(수행 중인 작업)의 세 가지 축으로 구성되며 이들의 정렬 상태가 UX의 질을 결정한다.
협업 형태를 'Done with me(밀착 협업)', 'Done for me(대행)', 'Done under me(보이지 않는 지원)'의 세 가지 구역으로 구분하여 작업 맥락에 따라 유연하게 적용해야 한다.
워크플로우 전반에서 인간의 개입과 AI의 존재감이 변화하는 양상을 '조정 곡선(Coordination Curves)'으로 시각화하여 알림, 승인, 모니터링 시점을 정교하게 설계한다.
작업의 위험도나 사용자의 숙련도에 따라 AI가 스스로 인터페이스 노출 정도와 개입 강도를 조절하는 '반응형 가시성(Responsive Salience)' 기술을 통해 가변적 UX를 구현한다.
사용자 테스트 결과 신뢰가 낮거나 고위험 작업일 때는 AI의 가시성을 높여 투명성을 제공하고, 신뢰가 쌓인 반복 작업에서는 배경으로 물러나는 적응형 설계가 사용자 만족도를 높인다.
용어 해설
- 에이전트형 AI(Agentic AI)
- — 단순히 명령에 응답하는 수준을 넘어, 목표 달성을 위해 스스로 계획을 세우고 도구를 사용하며 독립적으로 행동하는 자율적 AI 시스템이다. 기존 소프트웨어와 달리 능동적이고 비결정적인 특성을 가지며, 복잡한 다단계 워크플로우를 수행할 수 있다.
- 인간 참여형 시스템(Human-in-the-loop (HITL))
- — AI의 의사결정이나 작업 과정에 인간이 개입하여 검토, 수정 또는 최종 승인을 내리는 구조이다. 시스템의 정확성을 높이고 예기치 못한 오류를 방지하며, 특히 고위험 작업에서 AI에 대한 인간의 통제권을 유지하는 데 필수적이다.
- 가시성/존재감(Salience)
- — 사용자 인터페이스 내에서 AI 에이전트가 얼마나 눈에 띄고 강한 존재감을 드러내는지를 의미한다. 이름과 페르소나를 가진 챗봇은 가시성이 높고, 배경에서 작동하는 자동 추천이나 정렬 알고리즘은 가시성이 낮다.
- 비결정적(Nondeterministic)
- — 동일한 입력에 대해 항상 같은 결과가 나오지 않는 소프트웨어의 특성이다. 생성형 AI 에이전트는 매번 다른 방식으로 문제를 해결하거나 응답할 수 있으므로, 사용자가 결과를 예측하기 어렵게 만들며 세밀한 UX 조정이 필요한 근본 원인이 된다.
- 조정 곡선(Coordination Curves)
- — 작업 흐름에 따라 인간의 관여도와 AI의 존재감이 어떻게 변화하는지 시각화한 도구이다. 사용자 여정 지도의 변형된 형태로, 어느 시점에 AI가 전면에 나서고 어느 시점에 배경으로 물러나야 하는지 설계하는 기준이 된다.
기술
- Agentic AI
- Responsive Salience
- Coordination Curves
활용 사례
- 자율형 코딩 에이전트
- AI 연구 보조 도구
- 지능형 고객 서비스 챗봇
- 자동화된 데이터 분석 시스템
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 03. 12.수집 2026. 03. 12.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
