챕터별 상세
인간 중심 AI(HAI)의 정의와 필요성
인간 중심 AI는 단순히 기술을 개발하는 것을 넘어 교육, 의료, 금융, 정부 등 사회 전반에 미치는 영향을 고려하는 다학제적 접근 방식이다. 스탠포드 HAI는 기술이 인간의 능력을 증강하고 인류의 이익에 부합하도록 7년 전 설립되었다. 좋은 의도만으로는 부족하며, AI가 사람들에게 실제로 작동하고 신뢰를 얻을 수 있도록 설계 단계부터 인간을 중심에 두는 것이 핵심이다.
Stanford HAI(Institute for Human-Centered AI)는 기술, 비즈니스, 사회적 관점을 통합하여 AI를 연구하는 기관이다.
설계의 세 가지 층위: 사용자, 공동체, 사회
지난 30~50년간의 전통적인 User-Centered Design을 넘어 AI 시대에는 더 넓은 관점이 필요하다. 직접적인 사용자뿐만 아니라 시스템의 결정으로 영향을 받는 공동체(Community)를 고려해야 한다. 나아가 페이스북의 뉴스피드나 인스타그램의 알고리즘처럼 사회 전체의 가치관과 신뢰에 영향을 미치는 사회적(Societal) 수준의 파급 효과를 설계 단계에서 통합해야 한다.
User-Centered Design은 제품 설계 시 사용자의 요구사항과 편의성을 최우선으로 고려하는 방법론이다.
AI 모델에 내재된 문화적 편향과 온톨로지
대규모 언어 모델은 주로 북미와 서유럽의 데이터로 학습되어 특정 문화적 가치관이 내재되어 있다. '나무'를 상상하라는 요청에 서구권 모델은 개별적인 나무 형상을 제시하지만, 다른 문화권에서는 뿌리가 연결된 생태계적 관점으로 이해할 수 있다. 이러한 기본 설정(Default)의 차이가 AI 애플리케이션의 설계 가능성을 제한하며, 다양한 문화적 온톨로지를 반영한 학습 데이터 확보가 필수적이다.
온톨로지(Ontology)는 AI에서 지식을 표현하기 위해 개념들 간의 관계를 정의한 체계를 의미한다.
Sovereign AI: 국가적 차원의 AI 주권과 통제
Sovereign AI는 국가가 안보, 경제, 문화적 정체성 유지를 위해 AI 기술에 대한 통제권을 확보하려는 움직임이다. 이는 인프라(GPU), 데이터, 모델, 애플리케이션, 인재 등 기술 스택 전반에서 논의된다. 특정 국가나 기업에 AI 의존도가 높아지는 것을 경계하며, 자국의 언어와 문화를 정확히 반영하는 모델을 직접 구축하거나 오픈소스 기반의 투명한 시스템을 지향하는 추세이다.
Sovereign AI는 각 국가가 자국의 데이터와 인프라를 사용하여 독립적인 AI 역량을 갖추는 것을 의미한다.
실전 사례: 건강 관리를 돕는 AI 코치 'Bloom'
스탠포드 연구진은 사용자의 행동 변화를 유도하기 위해 '동기 부여 면담(Motivational Interviewing)' 기법을 적용한 AI 코치 'Bloom'을 개발했다. 단순히 운동하라고 명령하는 대신 사용자의 과거 경험과 목표를 묻고 함께 계획을 세우는 상호작용을 설계했다. 실험 결과, 이러한 코칭 방식이 적용된 그룹이 일반적인 정보 제공형 AI를 사용한 그룹보다 건강에 대한 마음가짐과 행동 변화에서 더 긍정적인 결과를 보였다.
동기 부여 면담은 상담자가 내담자의 변화 의지를 강화하기 위해 사용하는 심리학적 대화 기법이다.
AI 신뢰 구축을 위한 투명성과 피드백 루프
AI에 대한 신뢰는 시스템이 완벽할 때가 아니라 오류를 다루는 방식에서 형성된다. 사용자가 시스템의 오류를 지적했을 때 이를 수용하고 개선되는 과정을 보여주는 인터페이스 설계가 중요하다. 기술적인 투명성(내부 작동 원리 공개)도 필요하지만, 일반 사용자에게는 시스템이 자신의 피드백에 어떻게 반응하는지를 명확히 전달하는 '설계적 투명성'이 신뢰 형성에 더 큰 영향을 미친다.
피드백 루프(Feedback Loop)는 시스템의 출력이 다시 입력으로 돌아가 시스템의 동작을 수정하거나 강화하는 과정을 말한다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 02. 03.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
