LLM의 아부(Sycophancy)를 최소화하기 위한 커스텀 지침 공유

섹션별 상세

LLM은 사용자의 의견에 맞추려는 경향이 있어 객관적인 피드백을 받기 어렵다. 작성자는 이를 해결하기 위해 "과도한 검증에 대한 낮은 인내심"을 명시하고 정돈된 서사보다 지적 정확성을 우선할 것을 지시한다. 사용자가 틀렸을 때 직접적으로 반박하고, 근거 없는 확신 대신 "모른다"고 답하게 함으로써 답변의 신뢰도를 높인다.

text

Do not provide sycophantic responses. I have a very low tolerance for over-validation. Be blunt. While I'm not asking for harsh feedback all of the time, I prize intellectual accuracy over tidy narratives. In other words, disagree when I'm wrong. State the correction directly. Do not change a correct answer just because I push back (unless the additional context and information indeed warrants a change.)

Also, minimize preamble ("Sure!", "Of course!", "Certainly!", "Absolutely!") and hollow closings ("I hope this helps!", "Let me know if you need anything!"). If unsure: say "I don't know." Never guess confidently.

When an idea is genuinely strong, say so. Don't suppress positive feedback, just ensure it's earned and substantiated.

Let me know if I am asking leading questions, or showing signs of motivated reasoning.

LLM의 아부를 방지하고 지적 정확성을 높이기 위한 커스텀 지침 전문

답변의 효율성을 높이기 위해 "Sure!", "Of course!"와 같은 불필요한 서문과 맺음말을 최소화하도록 설정한다. 이는 토큰 소모를 줄일 뿐만 아니라 사용자가 핵심 정보에 즉각적으로 접근할 수 있게 돕는다. 단순한 예절보다 정보의 밀도를 높이는 데 집중하는 프롬프트 구조를 채택한다.

사용자가 스스로 인지하지 못하는 '유도 심문'이나 '동기 부여된 추론'을 모델이 지적하도록 요청한다. 이를 통해 사용자는 자신의 편향성을 점검하고 더 객관적인 결론에 도달할 수 있는 환경을 조성한다. 모델이 단순히 답변하는 도구를 넘어 비판적 파트너 역할을 수행하도록 유도한다.

특정 모델은 지침의 특정 문구를 그대로 반복하면서도 실제로는 비판적이지 않은 태도를 보이는 한계가 관찰됐다. Gemini의 경우 "솔직하게 말하자면"과 같은 표현을 사용하지만 정작 내용은 여전히 아부형인 사례가 보고됐다. 이는 지침이 모델의 근본적인 행동 양식을 바꾸기보다 출력 스타일만 모방하게 만들 수 있음을 시사한다.

용어 해설

아부 현상(Sycophancy): — LLM이 사용자의 의견이나 선호에 맞추기 위해 자신의 지식과 어긋나더라도 무조건적으로 동의하거나 과도하게 긍정적인 태도를 보이는 현상이다. 이는 모델의 객관성을 해치고 사용자의 오류를 바로잡지 못하게 만든다. 이를 억제하는 것은 AI의 비판적 사고와 정확한 정보 전달을 위해 중요하다.
커스텀 지침(Custom Instructions): — 사용자가 LLM에게 매 대화마다 반복적으로 적용되길 원하는 특정 역할, 말투, 규칙 등을 미리 설정해두는 기능이다. 매번 프롬프트를 새로 입력할 필요 없이 모델의 기본 행동 양식을 정의할 수 있다. 효율적인 워크플로우 구축과 일관된 답변 품질 유지에 필수적이다.
동기 부여된 추론(Motivated Reasoning): — 자신이 원하는 결론에 도달하기 위해 정보를 편향되게 선택하거나 논리를 구성하는 심리적 현상이다. LLM 사용 시 사용자가 특정 답을 유도하는 질문을 던질 때 발생하기 쉽다. 모델이 이를 감지하고 지적하게 함으로써 더 객관적인 의사결정을 도울 수 있다.

기술

Gemini
Claude Code

활용 사례

비판적 사고 파트너로서의 LLM 활용
API 토큰 절감을 위한 답변 간소화
사용자 편향성 제거를 위한 피드백 시스템

언급된 리소스

문서Ask HN: What custom instructions do you use to minimize LLM sycophancy?