3B 활성 파라미터로 20배 큰 모델과 경쟁하는 256K 컨텍스트 코딩 에이전트
코드 생성 및 프로그래밍 에이전트 태스크80B (3B Active)256K 컨텍스트apache-2.0
80B MoE 구조와 256K 컨텍스트를 갖춘 코딩 에이전트 최적화 GGUF 양자화 모델입니다.
핵심 역량
- 3B 활성 파라미터(총 80B)의 고효율 MoE 아키텍처
- 256K(262,144) 토큰의 초거대 컨텍스트 지원
- 복잡한 도구 호출(Tool Calling) 및 에이전트 추론 능력
- Unsloth Dynamic 2.0 기반 고정밀 GGUF 양자화
- 실행 실패 시 자가 회복 및 장기 추론(Long-horizon reasoning) 능력
알아두면 좋은 것
- 80B 모델임에도 3B 활성 파라미터로 10~20배 큰 모델급 성능 구현
- 4-bit 양자화 실행 시 최소 45GB 이상의 통합 메모리 또는 VRAM 권장
- llama.cpp의 Qwen 관련 루핑 버그가 수정된 최신 GGUF 업데이트 반영
- Claude Code, Trae, Cline 등 다양한 IDE 및 CLI 도구와 원활한 통합 지원
442
Likes
613.9k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.