이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
AI 에이전트가 확률적으로 해석하고 행동하면서 사용자는 답변의 정확성뿐 아니라 시스템이 듣고 있는지, 무엇을 했는지, 오류를 어떻게 중단하거나 되돌릴 수 있는지를 확인해야 합니다. Salesforce의 Agentforce Voice 포용적 usability testing에서는 청취 상태를 알리는 피드백과 live transcript가 없을 때 screen reader와 저시력 사용자의 신뢰가 빠르게 떨어졌고, 같은 문제가 일반 사용자에게도 방향 감각과 정보 검증의 어려움으로 이어졌습니다. 글은 WCAG의 POUR 원칙을 AI 설계에 적용해 상태를 인식하고, 상호작용하고, 작동 방식을 이해하고, 보조 기술과 함께 사용할 수 있게 해야 한다고 봅니다. 접근성을 출시 직전 점검 항목이 아니라 초기 연구와 설계 단계에서 신뢰 문제를 찾는 기준으로 삼아야 한다는 결론입니다.
섹션별 상세
기존 소프트웨어에서는 같은 입력에 예측 가능한 결과가 돌아오고 정해진 작업 흐름이 유지되면서 사용자가 신뢰를 형성했지만, AI는 불완전한 정보로 해석하고 추론하며 결과를 생성하므로 같은 입력에도 결과가 달라질 수 있습니다. 따라서 사용자는 답이 맞는지만이 아니라 시스템이 자신의 말을 이해했는지, 추천 이유가 무엇인지, 오류가 났을 때 어떻게 개입할 수 있는지를 확인하려 합니다. Salesforce의 음성 AI 연구에서도 참여자들은 시스템이 듣고 있는 시점, 대화 내용, 실행 전 검토와 중단 방법을 요구했으며, 이 요구는 음성 자체보다 가시성·피드백·통제권에 관한 신뢰 문제로 연결됐습니다.
근거
- AI 신뢰 문제의 상당 부분은 정확성 자체보다 가시성, 통제, 피드백 부족에서 비롯됩니다. — ‘What users need to trust AI’ 절에서 사용자가 시스템의 이해 여부, 추천 이유, 오류 발생 시 통제 방법을 묻는 대목
포용적 사용성 테스트에 Agentforce Voice 프로토타입과 여러 보조 기술을 적용하자 가시성과 신뢰의 관계가 뚜렷하게 나타났습니다. 참여자가 에이전트의 청취 상태를 알 수 없거나 실시간 대화 기록에 접근하지 못하면 곧바로 불확실성이 커졌고, NVDA screen reader 사용자는 음성 기능이 활성화됐음을 알리는 소리나 신호를 원했습니다. 이는 특정 장애 사용자만의 예외적인 요구가 아니라, 모든 사용자가 AI의 현재 상태와 다음 행동을 이해하고 필요할 때 통제하기 위해 필요한 기본 피드백입니다.
근거
- Agentforce Voice 테스트에서 에이전트의 청취 상태와 live transcript를 확인하지 못한 참여자는 신뢰와 확신을 잃었습니다. — ‘Usability testing uncovers the gaps’ 절의 inclusive usability testing 결과와 NVDA screen reader 사용자 인용
접근성 연구는 한 집단의 제약을 해결하면 더 많은 사용자의 경험도 개선된다는 원칙을 AI에 적용할 수 있게 합니다. Agentforce Voice 테스트에서 화면 확대와 대체 탐색 방식을 사용한 참여자는 시작 방법을 찾기 어려워했고, 익숙하지 않은 sound wave 아이콘과 기본적으로 숨겨진 live transcript 때문에 현재 대화의 기준점을 잃었습니다. 반대로 동기화된 transcript는 들은 내용을 확인하고 세부 정보를 다시 살피게 하며, JAWS screen reader 사용자가 타이핑을 줄여 Salesforce 작업을 더 빠르게 수행했다고 평가한 것처럼 접근성 기능이 일반적인 효율성과 방향 감각도 높일 수 있습니다.
근거
- 동기화된 transcript는 접근성 기능인 동시에 AI 대화의 정보 검증과 방향 감각을 돕는 일반적인 사용성 기능입니다. — ‘Research reveals where trust breaks down’ 절에서 low-vision 참여자의 기준점 요구와 transcript의 활용 맥락을 설명한 문단
Salesforce는 WCAG의 POUR 원칙을 AI 에이전트 설계에 적용해 사용자가 시스템을 인식하고, 조작하고, 이해하고, 의존하는 기술과 함께 안정적으로 사용할 수 있어야 한다고 연결합니다. 구체적으로는 에이전트가 듣고 있는지 알 수 있는 상태 표시, 응답 중단 기능, 특정 답변이 나온 이유를 파악할 수 있는 정보, screen reader나 magnifier 같은 기존 보조 기술과의 호환성이 필요합니다. 글은 접근성을 출시 전 체크리스트가 아니라 초기 연구와 usability testing 단계부터 마찰과 예외 상황을 찾는 설계 청사진으로 다뤄야 신뢰할 수 있는 AI 경험에 가까워진다고 결론짓습니다.
근거
- WCAG의 POUR 원칙은 AI 에이전트가 상태를 알리고, 상호작용을 허용하고, 작동 이유를 이해시키며, 사용자의 보조 기술과 함께 작동하는지 점검하는 기준이 될 수 있습니다. — ‘Apply accessibility principles to AI experiences’ 절의 Perceivable, Operable, Understandable, Robust 정의와 AI 설계 질문
용어 해설
- 비결정적 AI(Non-deterministic AI)
- — 같은 입력에도 항상 동일한 결과를 내놓지 않는 AI 시스템을 뜻합니다. AI가 확률적으로 해석하고 추론하며 생성하기 때문에 결과가 달라질 수 있으며, 사용자는 정확성뿐 아니라 시스템 상태와 판단 근거를 확인하고 오류를 수정할 수 있어야 합니다.
- 포용적 사용성 테스트(Inclusive Usability Testing)
- — 장애가 있거나 다양한 보조 기술을 사용하는 사람을 포함해 제품의 사용성을 검증하는 방법입니다. 일반 사용자에게도 나타날 수 있는 탐색 혼란, 피드백 부족, 통제권 상실을 조기에 드러내 AI 경험의 신뢰 문제를 찾는 데 쓰입니다.
- 웹 콘텐츠 접근성 지침(WCAG)
- — 장애가 있는 사람을 포함해 다양한 사용자가 웹 콘텐츠를 인식하고 조작하고 이해하고 안정적으로 사용할 수 있도록 만든 접근성 지침입니다. Salesforce 글은 이 원칙을 AI 에이전트의 상태 표시, 중단, 이해 가능성, 보조 기술 호환성에 연결합니다.
- POUR 원칙(POUR Principles)
- — 접근성 설계의 네 가지 기준인 Perceivable, Operable, Understandable, Robust를 묶은 표현입니다. AI에서는 사용자가 시스템 동작을 알아차리고, 상호작용하고, 작동 방식을 예측하고, 의존하는 기술과 함께 사용할 수 있는지를 점검하는 기준으로 쓰입니다.
- 실시간 대화 기록(Live Transcript)
- — 음성으로 진행되는 AI 대화를 텍스트로 동시에 표시하는 기능입니다. 사용자가 시스템이 들은 내용을 확인하고 세부 정보를 다시 읽으며 대화의 현재 위치를 유지하게 해 화면 낭독기 사용자뿐 아니라 소음이 있는 환경의 사용자에게도 통제와 검증 수단을 제공합니다.
기술
- Agentforce Voice
- NVDA
- JAWS
- OS Magnification
- WCAG
- POUR
- Salesforce
활용 사례
- 음성 기반 AI 에이전트
- 화면 낭독기와 함께 사용하는 업무 소프트웨어
- 소음이 있는 환경에서의 AI 대화 검증
- AI 작업 실행 전 검토와 중단
- 접근성 중심의 AI 제품 usability testing
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 14.수집 2026. 08. 14.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
