GLM-5.2: 1M 컨텍스트와 효율적 아키텍처를 갖춘 장기 작업 특화 모델

섹션별 상세

GLM-5.2는 대규모 시스템 최적화, 자동화된 연구, 복잡한 디버깅 등 장기 코딩 에이전트 시나리오를 위해 1M 토큰 컨텍스트를 안정적으로 유지한다.

IndexShare 아키텍처는 4개의 희소 어텐션 레이어마다 경량 인덱서를 공유하여 인덱서 연산 비용을 2.9배 줄이고 1M 컨텍스트 환경에서 효율성을 확보한다.

MTP(Multi-Token Prediction) 레이어에 IndexShare와 KVShare를 적용하고 거부 샘플링을 도입하여 추론 시 수용 길이를 20% 향상했다.

사용자는 작업 속도와 계산 비용을 고려하여 모델의 연산 노력 수준(Effort Level)을 직접 선택할 수 있다.

slime 인프라를 통해 복잡한 에이전트 강화학습(RL) 과정을 통합하고, 10개 이상의 전문가 모델을 효율적으로 병합하여 학습 효율을 높였다.

코딩 에이전트의 보상 해킹을 방지하기 위해 규칙 기반 필터와 LLM 판단을 결합한 안티 해킹 모듈을 도입하여 학습 신호의 정확성을 보장한다.