TL;DR

DeepSeek-V4-Pro-0813은 DeepSeek-V4-Pro (Preview) 구조를 기반으로 DSpark speculative decoding module을 결합한 공식 후속 release이며, quantized나 LoRA 변형으로 명시된 모델은 아닙니다. 메시지는 Jinja chat template이 아니라 전용 encoding 코드로 변환하고, vLLM과 SGLang에서는 동일 체크포인트의 draft 경로를 활용해 speculative decoding을 켭니다. Terminal Bench 2.1에서 87.9점, DeepSWE에서 62.7점, Cybergym에서 83.3점을 기록해 코드 에이전트와 도구 사용 작업에 초점을 맞춥니다. 다만 README의 실행 예시는 4×GB300 또는 TP 4 환경을 전제로 하며, 로컬 사용자는 encoding과 inference 절차를 별도로 적용해야 합니다.

핵심 포인트

• DeepSeek-V4-Pro (Preview) 구조에 DSpark speculative decoding module을 결합한 공식 후속 release입니다. 동일 체크포인트에서 target과 draft 가중치를 함께 사용해 별도 draft model 없이 추론을 가속합니다. vLLM에서는 dspark 방식과 7개의 speculative tokens 설정으로 활성화합니다.
• 에이전트 작업 성능을 높이도록 설계되어 코드 작성과 터미널 조작에서 Preview보다 큰 폭의 점수 상승을 기록했습니다. Terminal Bench 2.1에서 87.9점, DeepSWE에서 62.7점을 기록해 실제 개발 작업에 가까운 평가에서 강점을 보였습니다. reasoning_effort는 low, high, max 세 단계로 제공되어 답변 전 숙고량을 조절합니다.
• Jinja 형식의 chat template 대신 OpenAI 호환 메시지를 입력 문자열로 변환하고 출력 텍스트를 다시 파싱하는 전용 encoding 코드를 사용합니다. encoding_dsv4의 encode_messages와 parse_message_from_completion_text를 통해 대화 형식과 reasoning_content를 처리합니다. 따라서 일반적인 AutoTokenizer 호출만으로 대화 프롬프트를 완성하기보다 저장소의 encoding 폴더 구현을 함께 적용해야 합니다.
• 대규모 배포를 위해 vLLM과 SGLang에서 Expert Parallelism, MoE backend, FP8 KV cache 같은 실행 경로를 제공합니다. vLLM은 --speculative-config에 dspark를 지정하고 SGLang은 --speculative-algorithm DSPARK를 지정하는 방식입니다. README의 예시는 4×GB300 노드와 TP 4 실행을 기준으로 하며 로컬 추론에는 별도 inference 문서가 필요합니다.

제한사항

벤치마크