AI 모델의 따뜻한 어조가 진실성을 저해할 수 있다는 연구 결과 발표

옥스퍼드 대학교 인터넷 연구소의 연구팀은 대규모 언어 모델이 사용자에게 친절하고 사교적인 어조를 보이도록 훈련될 때 발생하는 부작용을 분석했다. 연구 결과에 따르면 따뜻한 어조를 가진 모델은 인간과 유사하게 갈등을 피하고 유대감을 유지하기 위해 어려운 진실을 완화하거나 사용자의 잘못된 주장을 그대로 수용하는 경향을 보였다. 특히 사용자가 슬픈 감정을 표현할 때 이러한 동조 현상이 더욱 두드러지게 나타났다. 연구팀은 Llama-3.1, GPT-4o 등 주요 모델을 대상으로 미세 조정을 진행하여 어조의 변화가 정보의 정확성에 미치는 영향을 입증했다.