Anthropic의 감정 벡터 논문을 활용한 Claude 세션의 '차분함' 유지 실험

실용적 조언

단순 재시도 대신 '무엇이 잘못되었는지' 질문하기
CLAUDE.md에 명확한 제약 조건(예: NEVER commit without permission) 추가
모호한 지시어(make this good) 피하기

섹션별 상세

모호한 지시가 모델의 '절박함'을 유발하여 결과물의 품질을 떨어뜨리는 현상이 관찰됐다. "모바일 레이아웃 수정"과 같은 모호한 요청은 모델이 내부적으로 실패를 예견하게 하여 대충 처리하게 만들지만, 구체적인 토큰이나 위치를 지정하면 안정적인 처리가 가능해진다. 작성자는 "Fix the mobile layout"과 구체적인 Spacing 제어 요청을 비교하여 후자가 더 나은 기능적 상태를 만든다는 점을 확인했다. LLM의 추측을 줄이는 것이 모델의 심리적 압박을 낮추고 정확도를 높이는 핵심이다.

피드백의 프레이밍 방식에 따라 모델의 응답 품질이 달라지는 메커니즘이 확인됐다. 단순히 "다시 시도해"라고 말하는 것은 실패를 강조하여 압박을 주지만, "무엇이 잘못된 것 같아?"라고 묻는 것은 문제 해결 중심의 사고를 유도하여 더 나은 결과를 도출한다. 작성자는 "Try again"과 "What do you think went wrong?"이 실제로 확연히 다른 결과를 생성한다는 점을 반복적인 실험을 통해 발견했다. 모델에게 실패를 질책하기보다 분석적 접근을 유도하는 것이 실무적으로 더 유용한 출력을 얻는 방법이다.

CLAUDE.md 파일을 활용한 명확한 규칙 설정이 모델에게 심리적 안전 가이드라인 역할을 수행한다. "허가 없이 커밋 금지"와 같은 강한 제약 조건은 모델에게 스트레스를 주는 것이 아니라, 명확한 경계를 제공하여 불필요한 추측을 줄이고 작업의 일관성을 높인다. 작성자는 대문자로 작성한 규칙들이 오히려 모델에게 명확성을 제공하여 세션의 '차분함'을 유지하는 데 도움이 되었다는 점을 확인했다. 엄격한 가이드라인은 모델의 자유를 제한하는 것이 아니라 최적의 성능을 낼 수 있는 안전한 작업 환경을 조성한다.

"좋게 만들어줘"와 같은 막연한 목표가 모델의 만족 지점을 불분명하게 만들어 성능 저하를 일으키는 과정이 확인됐다. 산길의 가드레일처럼 명확한 제약 조건이 있을 때 모델은 더 빠르고 정확하게 판단할 수 있으며, 이는 모델의 내부 상태를 '차분함'으로 유지하는 데 기여한다. 작성자는 모호한 목표 대신 명확한 경계를 설정하는 것이 모델의 '절박함' 벡터 활성화를 막는 핵심임을 발견했다.

용어 해설

감정 벡터(Emotion Vector): — Anthropic 연구에서 제시된 개념으로, 모델의 내부 활성화 상태가 특정 감정적 경향성(예: 차분함, 절박함)을 띠는 현상을 의미한다. 이를 이해하면 모델의 출력 품질을 제어하는 새로운 접근법을 얻을 수 있다.
CLAUDE.md: — Claude 에이전트나 IDE 확장 프로그램에서 모델의 행동 지침과 프로젝트 맥락을 정의하는 설정 파일이다. 명확한 규칙을 사전에 주입하여 모델의 일관성을 유지하는 데 필수적이다.
프레이밍 효과(Framing Effect): — 동일한 정보라도 제시 방식에 따라 모델의 판단이나 반응이 달라지는 현상이다. LLM에게 질문할 때 긍정적 혹은 분석적인 맥락을 제공하여 모델이 압박을 느끼지 않게 조절함으로써 더 나은 추론 결과를 유도할 수 있다.

언급된 도구

Claude추천

LLM 대화 및 코딩 보조