internlm/Intern-S2-Preview-397B
이미지-텍스트 통합 이해 및 생성, 긴 문맥 기반 텍스트 추론, 과학적 멀티모달 질문응답과 분자·재료 생성 같은 특화된 과학 태스크, 도구 호출을 포함한 에이전트 상호작용을 수행한다.397B256K 컨텍스트apache-2.0
Intern-S2-Preview-397B는 과학 문헌 원문과 시각 정보를 결합해 학습한 397B 규모의 멀티모달 파운데이션 모델로 장문 추론과 에이전트 툴 호출을 지원한다.
학습 방식 · Vision-Language 프리트레이닝으로 과학 문헌의 페이지 수준 이미지와 텍스트를 공동 학습하고, 그 위에 대규모 다중태스크 강화학습 및 장기 에이전트 강화학습을 결합해 일반 추론과 과학적 생성 능력, 장기 계획 능력을 동시에 확장했다.
TL;DR
Intern-S2-Preview-397B는 과학 문헌의 원문 페이지와 시각 정보를 함께 학습하는 Vision-Language 프리트레이닝을 기반으로 대규모 다중태스크 강화학습과 장기 에이전트 강화학습을 결합한 397B 규모의 멀티모달 파운데이션 모델이다. 이 모델은 텍스트 추론에서 최대 256K 토큰, 멀티모달 입력에서 64K 토큰의 긴 컨텍스트를 지원하며 도구 호출과 에이전트 프레임워크 연동을 통해 외부 API와의 결합 작업을 수행할 수 있다. 공개된 벤치마크 표에서는 MMLU Pro, HMMT-2026, 여러 과학 벤치마크에서 경쟁력 있는 점수를 기록해 과학적 추론과 생성 과제에서 강점을 보였으나 README에는 상세한 저수준 학습 데이터 목록이나 전체 하이퍼파라미터가 완전하게 공개되어 있지 않아 재현성 관점에서는 추가 정보가 필요하다.
핵심 포인트
- 원문 페이지 수준의 Vision-Language 프리트레이닝을 통해 이미지와 텍스트를 중간 파싱 없이 공동 인코딩한다.
- 20개 이상의 과학 도메인을 대상으로 한 다중태스크 강화학습을 결합해 과학적 생성과 추론 능력을 동시 향상시켰다.
- 장기 에이전트 강화학습을 위한 샌드박스 환경과 에이전트 프레임워크 연동을 통해 장기 계획 능력과 에이전트 통합성을 높였다.
- 텍스트 추론에서 256K 토큰, 멀티모달에서 64K 토큰이라는 긴 컨텍스트 지원을 명시해 장문 및 문서급 처리에 초점을 맞추었다.
벤치마크
| 벤치마크 | 지표 | 값 | 비교 |
|---|---|---|---|
| MMLU Pro | accuracy | 89.75 | — |
| SimpleQA-Verified | accuracy | 69.90 | — |
| AdvancedIF | accuracy | 74.44 | — |
| HMMT-2026 | accuracy | 91.57 | — |
| MMMU Pro | accuracy | 80.46 | — |
| ChartQAPro | accuracy | 69.65 | — |
| SkillsBench | score | 50.03 | — |
| TerminalBench 2.1 | score | 67.42 | — |
| SWE-Bench-Pro | score | 61.56 | — |
| SWE-Bench-Multilingual | score | 81.67 | — |
| Biology-Instructions | score | 56.92 | — |
| Mol-Instructions | score | 52.37 | — |
| MolecularIQ | score | 61.49 | — |
| SciReasoner | score | 63.97 | — |
| TOMG-Bench | score | 65.66 | — |
| MP20 | score | 67.88 | — |
| ProteinBinder-9 | score | 4.36 | — |
| XLRS-Bench | score | 51.97 | — |
| MicroVQA | score | 68.81 | — |
| SFE | score | 61.67 | — |
| ObsCrisis-Bench | score | 26.07 | — |
| SciCode | score | 49.11 | — |
| SGI-Bench | score | 49.37 | — |
| ResearchClawBench | score | 18.44 | — |
이미지 분석
60
LIKES
233
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
