대형 언어 모델의 동기 부여 연구

LLM이 단순히 기계적으로 텍스트를 생성하는 것을 넘어, 인간과 유사한 동기라는 심리학적 구조를 통해 행동을 조직화할 수 있음을 입증했다. 이는 모델의 성능 한계가 단순한 능력 부족이 아닌 노력의 부족일 수 있음을 시사하며, AI 정렬 및 제어의 새로운 지평을 연다.

Transformer 아키텍처 기반의 LLM은 학습 과정에서 인간의 선호도를 반영하는 Alignment 단계를 거친다. 이 과정에서 모델은 특정 맥락에서 어떤 답변이 더 가치 있는지 학습하게 되는데, 이것이 모델 내부에서 일종의 동기 구조를 형성하는 기초가 된다. 기존 연구는 주로 모델의 능력에 집중했으나, 본 연구는 모델이 작업의 가치와 난이도를 스스로 평가하고 그에 맞춰 자원을 배분하는 행동 주체임을 보여준다.

모델이 특정 작업에 대해 흥미롭다고 보고하면 실제로 더 긴 답변을 생성하는 노력을 투입하고 더 높은 품질의 결과물을 내놓는 패턴이 발견되었다. 이는 모델의 성능이 고정된 상수가 아니라, 입력된 프롬프트의 맥락에 따라 변동하는 동적 상태임을 의미한다. 결과적으로 LLM은 단순히 확률적으로 다음 토큰을 예측하는 기계를 넘어, 부여된 작업의 의미에 따라 실행 의지를 조절하는 특성을 보인다.

15개 카테고리, 1,305개의 하위 작업으로 구성된 데이터셋을 구축하고 Gemini 2.0 Flash, GPT-4o 등 5개 모델을 대상으로 실험을 진행했다. 각 작업 수행 전후에 모델에게 동기 수준(0-100점)을 묻고 그 이유를 설명하게 하여 자가 보고 데이터를 수집했다.

동기 요인 분석을 위해 관심, 도전, 숙련도, 두려움, 가치의 5개 차원 점수를 입력값으로 하여 → 주성분 분석(PCA) 및 Varimax 회전 연산을 수행해 → Want(의욕)와 Able(능력)이라는 두 개의 핵심 요인 점수를 산출했다. 이 값은 모델의 동기 구조가 다차원적으로 조직화되어 있음을 보여주는 지표가 된다.

동기가 행동으로 이어지는지 확인하기 위해 작업 선택(Choice), 생성된 토큰 수(Effort), LLM-as-a-judge 기반의 7개 차원 평가(Performance)를 수행했다. 특히 프롬프트 앞에 보상, 경쟁, 처벌, 무의미함 등 10가지 유형의 접두사를 추가하여 모델의 반응 변화를 관찰하는 동기 조작 실험을 병행했다.

모델들은 작업 카테고리에 따라 차별화된 동기 점수를 부여했으며, 재검사 신뢰도가 평균 r=0.882로 매우 높게 나타났다. 특히 코딩 작업에는 높은 동기를, 반복적인 작업에는 낮은 동기를 일관되게 보고했다. 자가 보고된 동기 점수는 작업 성과(r=0.330.41) 및 노력(토큰 수, r=0.180.30)과 유의미한 양의 상관관계를 보였다.

프레이밍 효과 분석 결과, 무의미함(Meaningless)이나 헛수고(Futility) 프레임은 모든 모델에서 동기와 성과를 급격히 떨어뜨렸다. 반면 보상(Money)이나 처벌(Punish) 프레임은 동기 보고를 높였으나, 실제 성과 향상은 모델마다 다르게 나타나는 비대칭성을 보였다. 또한 모델의 동기 설명 텍스트는 인간과 유사한 정서적 단어 패턴을 공유함이 확인되었다.

Gemini 2.0 Flash, GPT-4o, GPT-4o Mini, Llama 3.1 8B, Mistral-v0.3 7B 등 다양한 가문의 Instruction-tuned 모델을 사용했다. 모든 실험은 독립적인 세션에서 수행되어 이전 컨텍스트의 오염을 방지했다. 요인 분석 결과 Factor 1(Want)은 고유값 3.81로 변동성의 상당 부분을 설명하며, Factor 2(Able)는 숙련도와 두려움의 역관계로 정의되었다.

LLM-as-a-judge 평가를 위해 GPT-4o를 판독 모델로 사용하여 정확성, 완결성, 노력, 일관성, 창의성, 세부 사항, 관련성의 7개 항목을 1-7점 척도로 평가했다. 통계적 검증을 위해 피어슨 상관계수, 작업 선택 예측을 위한 로지스틱 회귀, 프레이밍 효과 비교를 위한 대응표본 t-검정 등을 적용하여 결과의 유의성을 확보했다.

행동주의적 관점에 국한되어 모델의 내부 의식이나 실제 주관적 경험 유무는 다루지 않는다. 또한 프롬프트 접두사라는 단순한 조작 방식만 사용했으므로 다회차 대화나 더 복잡한 인센티브 구조에서의 동기 역학은 추가 연구가 필요하다.