TL;DR

BigBang-V1은 Qwen/Qwen3.6-35B-A3B를 기반으로 한 post-training 계열의 멀티모달 모델로, 에이전트 기반의 adversarial self-evolving 합성 데이터로 약 10,000개의 고난도 예시를 만들어 후속 학습한 사례입니다. 생성자와 평가자가 순환적으로 더 어려운 과제를 만들고 정답성·난이도·다양성을 평가해 데이터 분포를 보정하는 파이프라인을 통해 과학 연구·장기 탐색·코드·AI 연구 벤치마크에서 35B급 공개 모델들 가운데 최고 성능을 보고했습니다. 최대 262,144 토큰의 확장 컨텍스트를 기본으로 설계되어 긴 문맥 추론과 도구 사용 시 장점이 있으나 컨텍스트·추론 비용과 합성 데이터의 범용성 제한을 함께 고려해야 합니다.

핵심 포인트

• BigBang-V1은 Qwen/Qwen3.6-35B-A3B를 기반으로 한 post-training 형태의 개선 모델로, 생성자(generator)와 평가자(critic) 에이전트가 상호작용하면서 자체 합성 데이터로 고난도 연구·기술 문제를 반복적으로 생성하고 선별하여 약 10,000개의 고난도 예시로 후속 학습을 진행했습니다. 이 파이프라인은 입력으로 에이전트가 만든 문제와 모델의 해답을 사용하고 프로세스에서 critic이 정답성·난이도·스케일·다양성을 평가해 데이터 분포를 보정하는 구조를 따릅니다. 이러한 방식으로 비교적 적은 규모의 합성 데이터만으로도 Qwen3.6-35B-A3B 대비 과학 연구, 추론, 코드 작성, 도구 사용 계열 벤치마크에서 의미 있는 성능 향상을 달성했습니다.
• 공개된 벤치마크 표는 BigBang-V1을 여러 35B급 오픈 모델과 거대 폐쇄형 모델(>35B 또는 Closed-Source)과 직접 비교한 결과를 담고 있으며, 선택된 35B 모델들 가운데 모든 대표 벤치마크에서 최고 점수를 기록했다는 사실을 명시합니다. 특히 FrontierScience Research, Humanity's Last Exam, PaperBench(Code-Dev), BioMysteryBench-HD에서는 DeepSeek V4 Pro Preview(1.6T)를 넘는 값이 보고되어 작은 파라미터 스케일에서도 합성 데이터 기반의 타깃 학습이 고난도 과제에 효과적이라는 근거를 제공합니다. 표에 제시된 개별 수치들을 근거로 모델의 상대적 위치를 파악하면 연구·코드·긴 문맥 처리 작업에서 실무적 활용 가능성이 높아지는 지점을 빠르게 확인할 수 있습니다.
• 실사용 측면에서는 최대 컨텍스트 길이 262,144 토큰을 기본으로 설계했기 때문에 긴 문맥·도구 호출·복합 추론 작업에서 이점을 확보합니다. README는 SGLang, vLLM, KTransformers 같은 고성능 서빙 환경에서의 배포 예시와 MTP(speculative decoding)를 포함한 성능 최적화 옵션을 제시하며, 대규모 컨텍스트를 유지하면서도 실무적 추론 파이프라인에 통합하기 위한 구현 지침을 제공합니다. 이로 인해 긴 대화 히스토리나 복잡한 도메인 워크플로우를 요구하는 애플리케이션에서 BigBang-V1의 도입 가치가 커집니다.

제한사항

벤치마크

이미지 분석