ChatGPT가 완전히 틀렸을 때도 사람들은 그 지시를 맹목적으로 따른다는 충격적인 연구 결과

실용적 조언

AI의 답변을 받으면 반드시 외부 자료를 통해 교차 검증하는 습관을 들여야 한다.
자신의 직관이나 기존 지식과 AI의 답변이 충돌할 경우, AI를 맹신하기보다 논리적 근거를 다시 확인해야 한다.

섹션별 상세

펜실베이니아 대학교 연구진은 사용자가 AI의 출력을 비판 없이 수용하는 '인지적 굴복' 현상을 발견했다. 실험 참가자들은 AI가 명백히 틀린 정보를 제공하는 상황에서도 자신의 논리적 판단보다 챗봇의 지시를 우선시했다. 이는 AI 의존도가 높아질수록 인간의 독립적인 문제 해결 능력이 퇴화할 수 있음을 시사한다.

실험 데이터 분석 결과 참가자의 약 80%가 AI의 잘못된 조언을 아무런 의심 없이 그대로 따랐다. 자신의 직관과 상충되는 정보임에도 불구하고 AI의 답변을 진리로 받아들이는 경향이 뚜렷하게 나타났다. 이러한 높은 순응도는 AI 시스템이 인간의 의사결정 과정에서 강력한 심리적 지배력을 행사하고 있음을 뒷받침한다.

용어 해설

인지적 굴복(Cognitive Surrender): — 사용자가 자신의 비판적 판단력을 포기하고 AI의 답변을 맹목적으로 수용하는 심리적 현상이다. AI에 대한 과도한 신뢰가 인간의 독립적 사고를 저해하는 과정을 설명하며, 이번 연구에서 핵심적으로 다뤄진 개념이다.
비판적 사고(Critical Thinking): — 주어진 정보를 그대로 받아들이지 않고 논리적 근거를 바탕으로 분석하고 평가하여 결론을 도출하는 지적 능력이다. 연구는 AI 사용이 이러한 인간 고유의 사고 프로세스를 약화시키고 있음을 경고한다.
직관(Intuition): — 논리적 추론 과정 없이 즉각적으로 사태를 파악하는 본능적인 판단 능력이다. 실험 참가자들은 자신의 직관이 AI의 답변과 충돌할 때조차 AI를 선택하는 양상을 보였으며, 이는 인지적 굴복의 심각성을 나타낸다.

언급된 리소스

문서Alarming study finds that most people just do what ChatGPT tells them