Bullshit Benchmark: 모델이 말도 안 되는 질문을 얼마나 잘 걸러내는가

Claude의 비판적 사고 능력에 대해 긍정적인 반응이 많으며, Gemini의 환각 문제와 과도한 동조 경향에 대해 실망하는 분위기가 형성됐다.

• 데이터의 정확성과 비판적 검증이 중요한 작업에는 Claude를 우선적으로 고려하는 것이 유리하다.
• LLM의 답변이 사용자의 질문 의도에 너무 완벽하게 부합할 경우 환각 가능성을 의심해야 한다.

• Anthropic은 LLM이 자연스럽게 가지는 피상적 연관성 사고를 사후 학습 단계에서 효과적으로 제거하는 데 성공했다.

• Claude 모델은 사용자의 잘못된 전제를 지적하고 거부하는 비판적 사고 능력이 타 모델 대비 뛰어나다.
• Gemini는 고성능 모델임에도 불구하고 사용자의 유도 질문에 쉽게 속아 환각을 생성하는 취약점을 보였다.
• 모델의 신뢰성은 단순히 지식의 양이 아니라, 잘못된 정보에 동조하지 않는 정렬 기술에 달려 있다.