와튼 스쿨의 새로운 연구: AI가 초래하는 '인지적 굴복'의 위험성

핵심 요약

와튼 스쿨 연구진은 대니얼 카너먼의 이중 프로세스 이론을 확장하여 AI를 통한 인지 과정인 '시스템 3(인공 인지)'를 제안하고, 인간이 AI의 답변을 무비판적으로 수용하는 '인지적 굴복(Cognitive Surrender)' 현상을 분석했다. 실험 결과, 참가자들은 AI가 틀린 답을 제시할 때도 80%의 확률로 이를 따랐으며, AI 사용 시 실제 정확도와 상관없이 주관적 자신감이 상승하는 양상을 보였다. 연구는 AI를 도구로서 전략적으로 활용하는 '인지적 외주화'와 달리, 사고 과정을 완전히 포기하는 '인지적 굴복'이 인간의 비판적 사고 능력을 퇴화시킬 수 있다고 경고한다.

배경

이중 프로세스 이론(System 1 & 2), 자동화 편향(Automation Bias)

대상 독자

AI 도구를 일상적으로 사용하는 지식 노동자 및 교육자

의미 / 영향

AI가 인간의 생산성을 높여주는 것처럼 보이지만, 비판적 사고 과정이 생략된 인지적 굴복은 장기적으로 인적 자본의 질적 저하와 의사결정 오류를 초래할 수 있다.

섹션별 상세

연구진은 기존의 직관적 사고(시스템 1)와 분석적 사고(시스템 2)에 더해, 뇌 외부에서 일어나는 AI 기반 사고인 '시스템 3'를 정의했다. 인지적 굴복은 사용자가 자신의 직관이나 숙고 과정을 거치지 않고 시스템 3의 출력을 기본값으로 채택하는 현상을 의미한다. 이는 단순한 자동화 편향을 넘어, 인간의 인지 제어권이 AI로 완전히 넘어가는 상태를 지칭하며 뇌의 능동적 참여가 배제된다는 점에서 위험하다.

1,372명을 대상으로 한 논리 퍼즐 실험에서 참가자들은 AI 답변의 정확도와 상관없이 50% 이상의 경우에서 AI를 참조했다. AI가 정답을 줄 때는 정확도가 25%p 상승했으나, 의도적으로 오답을 줄 때는 정확도가 15%p 하락하여 총 40%p의 격차가 발생했다. 특히 참가자들은 AI가 틀린 답을 내놓았음에도 80%의 확률로 그 답을 그대로 수용했으며, 이는 인간이 AI의 확신에 찬 말투에 쉽게 현혹됨을 보여준다.

연구는 계산기나 GPS를 사용하는 인지적 외주화와 AI에 의존하는 인지적 굴복을 엄격히 구분한다. 외주화는 결과의 타당성을 판단하는 주도권이 인간에게 있는 전략적 선택인 반면, 굴복은 사고 과정 자체를 구축하지 않고 AI의 출력을 자신의 출력으로 간주하는 행위다. 실험에서 AI가 틀렸을 때 이를 바로잡은 경우는 20%에 불과했으며, 73%는 AI의 오답을 그대로 받아들이는 굴복 모드를 보였다.

이 연구는 MIT의 ChatGPT 사용 시 신경 연결성 감소 연구와 맥락을 같이 하며, AI에 과도하게 의존할 경우 발생하는 인지적 부채 개념을 강화한다. AI를 비판 없이 사용하면 비판적 사고와 검증 능력이 퇴화하며, 이는 결국 뇌의 신경적 활동 저하로 이어진다. 연구진은 AI에 대한 신뢰도가 높고 인지적 노력을 즐기지 않는 사용자일수록 이러한 굴복 현상에 더 취약하다는 점을 발견했다.

이미지 분석

Diagram
기존의 시스템 1(직관) 및 시스템 2(숙고)와 외부 AI 시스템인 시스템 3가 어떻게 연결되는지 보여준다. 인지적 굴복과 인지적 외주화가 뇌의 경계를 넘어 어떻게 발생하는지 시각적으로 정의한다.
인간의 인지 체계와 AI(시스템 3)의 상호작용을 나타내는 인지 삼중 시스템 이론 다이어그램이다.

Chart
AI가 정확할 때(71%)와 틀릴 때(31%)의 정확도 차이를 뇌만 사용했을 때(46%)와 비교하여 보여준다. AI가 오답을 제시할 경우 인간의 판단력이 기준치 이하로 떨어진다는 핵심 실험 결과를 증명한다.
AI 지원 여부와 AI 답변의 정확도에 따른 참가자들의 문제 해결 정확도 비교 차트이다.

실무 Takeaway

AI 답변을 수용하기 전 반드시 자신의 직관과 숙고 과정을 먼저 가동하여 독립적인 판단 기준을 세워야 한다.
AI를 계산기처럼 방법만 외주화하는 도구로 사용해야 하며, 결과의 타당성에 대한 최종 책임은 항상 인간에게 두어야 한다.
AI에 대한 과도한 신뢰는 비판적 사고 능력을 마비시키므로, AI가 틀릴 수 있다는 전제하에 교차 검증하는 습관을 유지해야 한다.

언급된 리소스

논문Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender