클라우드 없이 모바일과 웹에서 LLM·음성 AI를 즉시 구현
AI Tool·C++0 / 0
iOS, 안드로이드, 웹 등 다양한 플랫폼에서 LLM, STT, TTS 기능을 로컬 환경에서 안전하고 빠르게 실행할 수 있도록 돕는 SDK입니다.
주요 기능
- 멀티플랫폼 SDK 제공 (iOS, Android, Web, React Native, Flutter)
- 온디바이스 LLM 추론 (Llama 3.2, Mistral, Qwen 등 GGUF 모델 지원)
- 오프라인 음성 파이프라인 (Whisper STT 및 Piper TTS 통합)
- 비전 언어 모델(VLM) 및 이미지 생성 모델의 로컬 실행 지원
- 모델 다운로드 관리 및 구조화된 JSON 출력 기능 제공
사용 사례
- 개인정보 보호가 필수적인 오프라인 모바일 챗봇 및 비서 앱 개발
- 네트워크 지연 없는 실시간 온디바이스 음성 인터페이스 구현
- 웹 브라우저 내 WebGPU를 활용한 로컬 AI 자동화 확장 프로그램 구축
9.2k
Stars
268
Forks
+539
Trending
0
조회수
9.2k watchers42 open issues
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.