ggml로 Nvidia LocateAnything-3B를 로컬에서 실행하는 방법
Infrastructure·C++1 / 0
NVIDIA LocateAnything-3B를 ggml로 로컬에서 실행하도록 C++로 이식한 포팅 레포지토리이다.
주요 기능
- 로컬 인퍼런스 실행을 위한 ggml 포팅 제공
- 모델 로딩 및 입력 전처리 파이프라인 구현
- 크로스 플랫폼 빌드 설정 및 간단한 실행 예시 포함
- C++ 기반 인터페이스로 API 노출
407
Stars
48
Forks
+204
Trending
1
조회수
407 watchers1 open issues
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.