Project Aurelia: 생체 인식 기반의 로컬 멀티 에이전트 시스템

작성자의 하드웨어 구성과 센서 데이터 처리 방식에 대해 매우 긍정적이고 기술적인 관심이 집중되었다.

• 로컬 LLM 프로젝트에서 하드웨어 수치를 직접 넣기보다 소형 모델로 1차 가공하여 전달하면 성능이 개선된다.
• 검색 정확도를 높이려면 벡터 DB와 전통적인 키워드 검색을 RRF로 결합하는 것이 유리하다.

• 클라우드 의존성 없이 로컬 하드웨어 센서만으로 사용자의 생리적 상태를 인식하는 AI 시스템 구현이 가능하다.
• 대규모 모델(80B)과 보조 모델(9B, 13B)을 물리적으로 분리된 연산 자원에 할당하여 시스템 지연을 최소화했다.
• 단순 수치 데이터 대신 소형 모델을 거친 자연어 묘사를 메인 모델에 전달함으로써 페르소나 유지와 추론 효율을 동시에 잡았다.