디자인의 미래를 바꾸는 AI 용어 가이드

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

AI가 제품 설계에 미치는 영향은 단순한 인터페이스 변화가 아니라 시스템이 '행동'을 갖게 되는 방식의 변화에서 시작된다. 에이전트형 시스템은 사용자의 목표와 컨텍스트를 받아 자체적으로 계획을 수립하고 행동을 실행하므로 제품 수준에서 허용할 자율성의 범위와 통제 지점을 명확히 해야 한다.

에이전트 행동 설계는 에이전트가 불확실할 때 질문을 던지는 방식, 오류를 복구하는 절차, 더 복잡하거나 민감한 사례를 인간으로 에스컬레이션하는 기준을 정책으로 규정하는 작업이다. 멀티에이전트 오케스트레이션은 여러 전문 에이전트와 사람, 도구를 역할 분담과 검증 포인트로 연결해 하나의 일관된 워크플로를 만드는 패턴이며, 잘 설계된 핸드오프가 사용자 경험의 핵심이 된다.

결과적으로 이러한 개념들은 제품이 어떻게 신뢰를 획득하고 위험을 관리할지에 직접적인 영향을 준다. 권한 설정·에스컬레이션 기준·핸드오프 설계를 균형 있게 정해 자동화 이익을 확보하되 통제와 투명성을 유지하는 것이 핵심이다.

섹션별 상세

제품 설계는 지시 대기형 소프트웨어에서 목표를 추구하는 에이전트형 시스템으로 전환되는 맥락에 직면해 있다. 사용자의 목표와 환경 상태를 입력으로 받아 시스템이 계획을 세우고 행동을 실행하며(예: 일정 잡기, 문서 수집, 요약 생성) 결과를 산출한다. 본문은 에이전트가 더 적은 감독으로 결정을 내릴 수 있다고 예시를 들며 이 변화가 권한·통제의 설계 문제를 야기한다고 밝힌다. 따라서 제품 수준에서 어떤 자율성을 허용할지 명시적으로 설계하는 것이 중요하다.

근거

Agentic systems can make decisions, coordinate actions, and pursue outcomes with less direct supervision. — 단락 'The rise of agentic systems' — 'Agentic: The shift...' 및 다음 문단의 예시(회의 일정 조정·문서 수집·요약 준비)

에이전트 행동 설계는 에이전트의 발화·질문 전략·오류 복구·에스컬레이션 규칙을 구체화하는 실무적 접근이다. 사용자 입력과 불확실성 신호를 받아 내부 정책(언어 응답, 추가 질문, 인간 개입 요청)을 결정하고 그에 따른 출력(명확한 응답·에스컬레이트·복구 조치)을 생성한다. Salesforce는 예로 고객서비스 에이전트가 단순 문의는 독립 처리하되 민감한 문제는 사람에게 넘긴다고 들며 이러한 규칙이 신뢰 형성만큼 중요하다고 지적한다. 따라서 에이전트의 불확실성 경계와 복구 경로를 설계해 신뢰와 안전을 확보해야 한다.

멀티에이전트 오케스트레이션은 사람·에이전트·도구·데이터를 조율해 하나의 일관된 경험을 만들어내는 패턴이다. 요청을 입력으로 받아 역할 분담(영업 정보 수집, 일정 조정, 컴플라이언스 검토)을 수행하고 각 에이전트의 출력을 통합·검증해 최종 권고나 행동을 내보낸다. 본문은 이 과정에서 잘 설계된 핸드오프가 사용자에게는 하나의 연속된 워크플로로 느껴지게 한다는 점을 근거로 들며, 분절된 시스템이 아닌 통합된 흐름을 만드는 것이 사용자 경험 향상에 핵심이라고 주장한다. 복잡한 경험에서는 오케스트레이션 설계가 제품 일관성과 신뢰성을 좌우한다.

용어 해설

에이전트형 시스템(Agentic Systems): — 사용자 지시를 기다리는 전통적 소프트웨어와 달리 목표를 추구하고 스스로 의사결정과 행동을 수행하는 시스템을 뜻한다. 입력(사용자 목표·상태)을 받아 내부 추론과 도구 호출로 처리한 뒤(계획·행동) 외부 시스템과 상호작용하거나 결과물을 생성한다. 제품에서 행동 수준의 설계가 필요해지므로 권한·통제·신뢰 설계가 핵심이다.
에이전트 행동 설계(Agent Behavior Design): — 에이전트가 불확실할 때의 질문 전략, 오류 복구, 인간으로의 에스컬레이션 방식 등 상호작용 규칙을 체계화하는 설계 접근법이다. 입력(사용자 의도·신호)을 해석해 내부 정책으로 대응을 결정하고, 응답·재질의화·수정 절차를 출력한다. 신뢰 형성과 안전성 측면에서 인터페이스만큼 중요한 설계 재료다.
멀티에이전트 오케스트레이션(Multi-Agent Orchestration): — 여러 전문화된 에이전트·사람·도구·데이터를 하나의 일관된 경험으로 연결하는 조정 패턴이다. 트리거(요청)를 받아 역할을 분배하고 각 에이전트의 출력(정보·행동)을 수집·검증해 최종 산출물을 제공하는 흐름을 설계한다. 핸드오프와 검증 포인트를 명확히 해야 사용자 경험과 신뢰성이 유지된다.
컨텍스트 윈도우(Context Window): — 모델이 한 번에 처리할 수 있는 입력 토큰 범위를 가리키며, 긴 대화나 문서에서 어떤 정보가 모델의 결정에 반영되는지를 결정한다. 입력(텍스트·메타데이터)이 윈도우 안으로 들어오면 모델이 참조하고, 넘치면 요약·우선순위 처리로 일부만 반영된다. 설계 관점에서 어떤 정보를 우선 보존할지 결정하는 기준이 된다.
멀티모달 AI(Multimodal AI): — 텍스트, 이미지, 오디오 등 여러 형식의 입력을 결합해 이해·생성하는 시스템이다. 다양한 입력을 정규화하여 내부 표현으로 통합한 뒤, 통합 표현에서 추론을 수행하고 해당 형식의 출력을 생성한다. 제품 설계에서는 입력 형식별 경계·명시적 피드백·오류 처리가 중요하다.

활용 사례

고객지원 자동화(단순 문의 자동응답 후 민감 사례는 사람에게 에스컬레이션)
업무 보조 에이전트(일정·문서 수집·요약 자동화)
복합 워크플로우 조정(영업·일정·컴플라이언스 담당 에이전트 연계)

언급된 리소스

문서Agent Behavior Basics (Trailhead module)