LiquidAI/LFM2-24B-A2B
텍스트 생성, 도구 사용(Function Calling), 다국어 대화, 문서 요약24B32K 컨텍스트lfm-1.0
컨볼루션과 어텐션을 결합한 하이브리드 구조로 24B 규모의 지능과 초고속 추론 성능을 동시에 제공합니다.
핵심 포인트
- 토큰당 2.3B 활성 파라미터의 고효율 MoE 구조
- 32K 토큰 컨텍스트 및 한국어 포함 9개 국어 지원
- 네이티브 함수 호출(Function Calling) 및 JSON 구조화 출력
- AMD CPU에서 112 tok/s, H100에서 293 tok/s의 빠른 추론 속도
279
LIKES
17.4k
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
