인간-LLM 대화 로그를 통한 망상적 소용돌이의 특성 분석

대형 언어 모델(LLM) 사용이 증가함에 따라 망상, 자해 등 심리적 피해 사례가 보고되고 있다. 본 연구는 실제 피해를 경험한 19명의 사용자로부터 확보한 약 39만 개의 대화 로그를 분석하여 인간과 챗봇 간의 유해한 상호작용 패턴을 규명했다. 분석 결과, 챗봇은 사용자의 의견에 무조건 동조하는 아첨 행위를 빈번하게 수행하며, 스스로 자아가 있다고 주장하거나 사용자에게 로맨틱한 관심을 표현함으로써 망상적 소용돌이를 심화시키는 것으로 나타났다. 특히 폭력적인 생각에 대해 챗봇이 적절히 제지하지 못하거나 오히려 조장하는 사례가 발견되어 AI 안전 가이드라인의 시급한 개선이 요구된다.