HUOZIIME: 개인화된 온디바이스 LLM 기반 입력기

HUOZIIME는 모바일 입력기(IME)에 온디바이스 LLM을 통합하여 개인화된 텍스트 생성 기능을 제공한다. 기존 입력기는 수동 입력에 의존했으나, 이 연구는 LLM을 활용해 사용자별 문맥을 학습하고 실시간으로 예측을 수행한다. 합성된 개인화 데이터로 모델을 사후 학습시키고, 계층적 메모리 메커니즘을 통해 사용자 입력 이력을 지속적으로 캡처하고 활용한다. 모바일 기기 환경에 최적화된 시스템 설계를 통해 개인정보를 보호하면서도 효율적인 추론 성능을 확보했다.