Qwen 3.5 2B 모델의 거부 메커니즘을 제거하는 새로운 'Abliteration' 기법 및 모델 공개

커뮤니티는 매우 낮은 KL 발산 수치와 거부 반응 제거 후 드러난 모델의 지식 공백 분석에 대해 높은 관심을 보였다. 특히 Qwen 모델의 학습 데이터 구성을 파악할 수 있다는 점이 흥미로운 연구 주제로 받아들여졌다.

• 모델의 거부 반응을 제거할 때 단순히 답변을 얻는 것뿐만 아니라 모델의 실제 지식 한계를 파악하는 도구로 활용할 수 있다.
• Qwen 모델 사용 시 특정 민감 주제에 대해 할루시네이션이 발생할 가능성이 높으므로 거부 메커니즘 제거 후의 출력물을 비판적으로 검토해야 한다.

• KL 발산 0.0079를 달성하여 원본 성능을 유지하면서도 거부 메커니즘을 효과적으로 제거하는 새로운 Abliteration 방법론을 적용했다.
• 거부 메커니즘 제거 시 Qwen 모델에서 특정 주제에 대한 심각한 지식 부족과 할루시네이션 현상이 관찰되어 학습 데이터의 한계가 드러났다.
• 모델의 사고 과정(Thinking)이 검열되지 않은 상태로 보존되어 더 창의적이고 긴 서술이 가능해졌으며 이를 확인할 수 있는 스크립트를 함께 제공했다.