에이전트형 AI 시대의 인간-AI 파트너십 설계를 위한 프레임워크

에이전트형 AI의 도입이 급증하면서 조직 내 에이전트 사용량이 2년 내 67% 증가할 것으로 전망되지만, 많은 에이전트가 고립된 상태로 운영되고 있다. Salesforce는 이러한 문제를 해결하기 위해 '인간의 과업 + 에이전트의 과업 + 신뢰 가드레일'로 구성된 실무 프레임워크를 제안했다. 이 모델은 AI의 능력을 확장하면서도 최종 책임은 인간이 지는 구조를 설계하여 시스템에 대한 신뢰를 확보하는 데 중점을 둔다. 결과 중심 측정, 명확한 핸드오프, 투명성 유지 등 6가지 설계 원칙을 통해 책임감 있는 자율성을 구현할 수 있다.