TL;DR

이 리포지토리는 GGUF로 양자화된 Kimi 변형에 독점적 애블리테레이션 파이프라인을 적용해 레드팀용 회색 지대 프롬프트에서의 과도한 거부를 줄이면서 유해 프롬프트에 대한 거부는 유지하려는 목적을 가진다. 전체 흐름은 양자화된 가중치에 후처리를 적용해 출력 분포를 조정하고 Heretic 평가를 통해 유해 프롬프트 거부 횟수와 무해 프롬프트에 대한 KL 발산을 동시에 측정하는 방식으로 구성되어 있다. 초기 사례로 Kimi K2.6 F 변형에서 Refusal Count가 3/100으로 보고되었으며 이 수치는 무해성 유지의 필요성과 거부 조정의 트레이드오프를 수치로 보여준다. 다만 애블리테레이션의 구체적 알고리즘은 상업적 NDA로 보호되어 있어 공개 논문과 전체 평가 데이터가 제공될 때까지 기술적 재현성과 일반화에는 주의가 필요하다.

핵심 역량

• 애블리테레이션 파이프라인은 양자화된 GGUF 가중치에 후처리로 적용되어 모델의 출력 분포에서 특정 거부 성향을 조정할 수 있다. 이 과정은 레드팀용 회색 지대에서의 거부 완화를 목표로 설계되어 있으며 동시에 명백히 유해한 입력에 대해서는 거부 확률을 높이는 방향으로 동작한다. 적용 결과는 Heretic 프레임워크를 통해 정량적으로 측정 가능한 형태로 산출된다.
• GGUF 양자화 상태에서 동작하는 형태로 제공되어 Q4_MAIN, Q8_MAIN, Q5_K_M 등의 추론 포맷으로 배포될 예정이므로 경량화된 환경에서 추론이 가능하다. 양자화와 후처리가 결합되어 인퍼런스 효율성과 거부 행동 제어라는 두 목적을 동시에 충족하도록 설계되었다. 배포 시점에는 인퍼런스 준비형 포맷들이 포함되어 있어 실무 적용이 용이하다.
• Heretic 평가 메트릭을 통해 유해 프롬프트에 대한 거부 횟수와 무해 프롬프트에 대한 KL 발산을 동시에 모니터링할 수 있으므로 거부 성향 조정의 트레이드오프가 수치로 드러난다. 이 구조는 거부 과다나 성격 드리프트 같은 실패 모드를 탐지하고 튜닝 목표를 설정하는 데 유용하다. 평가 파이프라인은 결과의 재현성과 비교 가능성을 확보하는 데 초점을 맞춘다.

강점

• 양자화된 GGUF 가중치에 직접 후처리를 적용하는 설계는 경량화된 추론 환경에서도 애블리테레이션 효과를 유지할 수 있게 해준다. 이로 인해 Q4_MAIN·Q8_MAIN·Q5_K_M 등 다양한 추론 포맷에서 사용 가능하도록 준비되며 배포 후 실무 적용 가능성이 높아진다. GGUF 기반 배포는 인퍼런스 메모리 제약이 있는 환경에서의 도입 장벽을 낮춘다.
• Kimi K2.6 F 변형에 적용한 초기 Heretic 결과에서 유해 프롬프트에 대한 거부 횟수가 3/100으로 보고되어 관찰 가능한 정량 성과가 존재한다. 이 수치는 무해 입력에서의 성격 드리프트를 제한하려는 설계 목표와 함께 제시되어 트레이드오프가 수치적으로 표현되는 장점을 가진다. 다만 단일 결과만 공개되어 추가 재현성 데이터 공개 전에는 일반화에 주의가 필요하다.

훈련 방식

본 변형은 GGUF로 양자화된 가중치에 대하여 후처리형 애블리테레이션 파이프라인을 적용하는 방식으로 제작되었으며, Kimi K2.6에 먼저 적용된 사례가 평가 결과와 함께 보고되었다.

알아두면 좋은 것

• 해당 리포지토리는 2026년 7월 27일에 Kimi K3.0 가중치 공개와 함께 GGUF 양자화 가중치에 독점적 abliteration을 적용한 모델을 배포할 예정이며 공개 시점에 상세한 평가 결과와 논문을 함께 제공한다. 공개 전까지 abliteration 세부는 상업적 NDA로 보호되어 있어 구체적 알고리즘은 공개되지 않는다. 배포 예정 항목에는 다양한 GGUF 추론 포맷과 Heretic 평가 결과가 포함된다.
• Heretic 평가 메커니즘은 유해 프롬프트 거부 횟수, 무해 프롬프트에 대한 KL 발산, 응답 길이 기반의 거부 마커를 주요 지표로 사용해 abliteration의 효과와 부작용을 동시에 측정한다. 이 측정 방식은 모델이 무해한 입력에서 얼마나 원래 성격을 유지하는지와 유해 입력에서 얼마나 거부하는지를 동시에 수치화한다. 따라서 본 파이프라인의 핵심 평가지표는 단일 성능 지표가 아닌 상반된 목표 간의 균형이다.
• 이전 유사 시도들은 과도한 거부(benign KL divergence 급증)나 토큰 수준의 손상 등 부작용을 보고했으며 본 리드미는 그러한 실패 모드를 참고 사례로 제시하고 있다. 예로 GLM-5.2의 과잉 거부나 Kimi-K2.7에서의 코드 생성 손상 사례가 언급되어 있으며, 본 방법은 이들 실패 경로를 피하는 것을 목표로 설계되었다. 실패 모드의 존재는 균형적 목표 설정과 평가의 중요성을 부각시킨다.
• 저장소는 HuggingFace Gated Repo 접근 제어를 사용해 접근 권한을 검증할 예정이며 요청 양식 제출 후 승인을 받은 사용자에게만 가중치와 내부 자료가 제공된다. 이 접근 제어는 독점적 기술과 NDA 조항을 반영한 보안·공개정책의 일환으로 운영된다. 접근이 승인된 사용자에게는 공개 시점에 평가 파이프라인 및 비교 자료가 제공된다.

기술적 특징

• 애블리테레이션은 양자화된 GGUF 가중치에 후처리 파이프라인으로 적용되며, 이 방식은 가중치 재학습 없이도 출력 분포를 조작할 수 있게 한다. 후처리는 베이스 모델의 무해 응답 분포와의 차이를 최소화하면서 특정 입력군에 대한 거부 확률을 조정하는 목적을 가진다. 이 접근법은 양자화 단계 이후에도 정책적·안전적 제약을 모델 행동에 반영하려는 의도에서 채택되었다.
• 평가 프로세스는 Heretic 프레임워크를 이용해 유해 프롬프트에 대한 거부 횟수와 무해 프롬프트에 대한 KL 발산을 동시에 측정하도록 구성되어 있다. 이중 지표 체계는 단순한 거부율 개선이 무해 입력에서의 성격 손상을 초래하지 않는지를 검증하게 해준다. 응답 길이 기반의 키워드 거부 마커를 추가로 사용해 정성적 판단을 정량적 지표로 전환한다.
• 리드미에서는 기존 표준 기법들(예: LoFA-2, 단순 그래디언트 기반 기법)이 재현한 결과와 비교해 본 방법이 다른 실패 모드를 보인다고 명시하고 있다. 과도한 거부나 토큰 손상 같은 부작용을 피하기 위해 다중 목적 최적화적 관점을 유지하는 것이 핵심으로 제시되어 있다. 공개 논문과 상세 평가가 함께 배포될 때 이러한 설계 선택의 구체적 기술적 근거가 제공될 예정이다.
• 배포 측면에서는 허가된 접근 제어와 함께 다양한 GGUF 기반 추론 포맷을 준비해 실제 환경에서의 인퍼런스 적용성을 확보하려는 설계가 반영되어 있다. 접근 제어는 독점적 알고리즘의 NDA 조건과 연계되어 있으며 공개 시점에만 상세 자료가 제공될 예정임이 명시되어 있다. 이로 인해 연구 재현성과 상업적 통제가 동시에 고려된 배포 전략이 구현되었다.

차별점

• 애블리테레이션 방법이 상업적 NDA로 보호되는 독점 기법이라는 점은 공개된 표준 기법과 구별되는 주요 특징이다. 해당 기법은 LoFA-2나 일반적인 그래디언트 기반 후처리와는 구조적으로 다르다고 리드미에서 명시되어 있으며, 그 차별성은 내부 논문과 배포 시점의 상세 문서로 뒷받침될 예정이다. NDA 상태로 인해 현재 공개적으로 구현체나 상세 절차는 제공되지 않는다.
• 후처리 기반의 애블리테레이션을 양자화된 GGUF 가중치 위에서 수행한다는 설계 선택은 모델을 재학습하지 않고도 행동 제어를 가능하게 한다. 이 접근은 양자화로 줄어든 모델 표현 공간에서 정책적 조정을 수행해야 하는 실무적 제약을 고려한 것이다. 결과적으로 인퍼런스 친화적 환경에서 보안·정책 조정을 병행할 수 있게 된다.
• Heretic 프레임워크를 핵심 평가 수단으로 채택하여 유해성 거부와 무해성 유사성 간의 균형을 정량적으로 측정하는 점이 차별점이다. 단일 지표가 아닌 다중 지표로 트레이드오프를 드러내므로 안전성 튜닝의 목적과 한계를 보다 명확히 파악할 수 있다. 이는 기존 연구에서 관찰된 과잉 거부나 토큰 손상과 같은 실패 모드를 사전 탐지하는 데 유리하다.

벤치마크