Claude Code의 Haiku를 대체할 4B 규모의 강력한 로컬 코딩 에이전트
코드 생성, 편집, 리팩터링 및 디버깅4Bapache-2.0
로컬 환경에서 지연 시간 없이 코드 생성, 디버깅, 리팩터링을 수행하는 4B 규모의 코드 특화 파인튜닝 모델입니다.
핵심 역량
- 4B 파라미터의 초경량 구조로 로컬 실행 최적화
- 코드 생성, 편집, 리팩터링 및 디버깅 특화 성능
- vLLM 및 llama.cpp를 통한 유연한 로컬 배포 지원
- 에이전트 워크플로 내 도구 선택(Tool Choice) 및 파싱 지원
- Apache 2.0 라이선스로 상업적 이용 가능
알아두면 좋은 것
- Jan-v3-4B-base-instruct 기반의 코드 파인튜닝 모델
- vLLM 및 llama.cpp(GGUF)를 활용한 상세한 로컬 실행 가이드 포함
- 에이전트 환경을 위한 Hermes 도구 호출 파서 지원
- 권장 설정: Temperature 0.7, Top_p 0.8, Top_k 20
62
Likes
1.3k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.