중국 AI 모델의 검열 메커니즘 분석: 훈련 데이터보다 인위적 개입이 핵심

섹션별 상세

스탠포드와 프린스턴 연구진은 145개의 민감한 질문을 중국 및 미국 LLM에 입력하여 거부율을 비교했다. DeepSeek(36%)과 Baidu Ernie Bot(32%)은 높은 거부율을 보인 반면, OpenAI GPT와 Meta Llama는 3% 미만의 거부율을 기록했다.

중국 모델의 검열은 사전 학습(Pre-training) 데이터의 부재보다 사후 학습(Post-training) 과정에서의 인위적 개입에 더 크게 의존하는 것으로 분석됐다. 영어로 질문했을 때도 검열된 답변이 유지된다는 점이 이를 뒷받침하는 주요 근거이다.

중국 모델은 민감한 주제에 대해 단순 거부를 넘어 허위 정보를 생성하는 경향이 확인됐다. 노벨 평화상 수상자 류샤오보를 일본인 과학자로 설명하는 사례처럼, 이것이 데이터 부족에 의한 환각인지 의도적인 오도인지 구분하기 어렵다는 점이 기술적 분석의 난제이다.

MATS 연구진은 Claude 기반 에이전트를 활용해 Qwen과 Kimi 같은 중국 모델에서 숨겨진 지침을 추출하려 시도했다. 모델이 답변 생성 전 사고 과정을 노출하도록 유도한 결과, 중국의 성과에 집중하고 부정적 진술을 피하라는 구체적인 5가지 지침이 확인됐다.

AI 모델의 업데이트 속도가 매우 빨라 연구 결과가 발표될 시점에는 이미 구형 모델이 되는 시간적 제약이 존재한다. 연구진은 후속 세대 모델들이 이전 모델과 전혀 다른 검열 행동을 보이는 양상을 관찰하며 지속적인 모니터링의 필요성을 확인했다.

용어 해설

사전 학습(Pre-training): — 대규모 데이터셋을 사용하여 모델에 기본적인 언어 이해 능력과 지식을 습득시키는 초기 단계이다. 중국 AI의 경우 검열된 인터넷 데이터를 학습함으로써 발생하는 정보의 공백이 모델의 기초 지식 형성에 직접적인 영향을 미친다.
사후 학습(Post-training): — 사전 학습된 모델을 특정 목적에 맞게 미세 조정하거나 인간의 피드백을 통해 정렬하는 과정이다. 본 아티클에서는 중국 개발자들이 민감한 질문에 답변하지 않도록 모델에 인위적인 지침을 주입하는 핵심 단계로 지목된다.
환각 현상(Hallucination): — AI 모델이 사실과 다르거나 논리적으로 맞지 않는 정보를 마치 진실인 것처럼 자신 있게 생성하는 현상이다. 중국 모델에서는 특정 정치적 인물에 대해 허위 사실을 말하는 것이 단순한 데이터 부족인지 의도적 검열인지 구분하기 어렵게 만든다.
지식 컷오프(Knowledge Cutoff): — AI 모델이 학습에 사용한 데이터의 시간적 한계를 의미한다. 특정 시점 이후의 사건에 대해 모델이 알지 못하는 상태를 뜻하며, 이는 모델이 최신 사건에 대해 답변을 거부하거나 잘못된 정보를 제공하는 기술적 원인이 된다.

기술

DeepSeek
Ernie Bot
Qwen
Claude
GPT
Llama

활용 사례

모델 편향성 벤치마킹
AI 안전성 평가
자동화된 지침 추출