Project Aurelia: 생체 인식 기반의 로컬 멀티 에이전트 시스템

작성자의 하드웨어 구성과 센서 데이터 처리 방식에 대해 매우 긍정적이고 기술적인 관심이 집중되었다.

• 로컬 LLM 프로젝트에서 하드웨어 수치를 직접 넣기보다 소형 모델로 1차 가공하여 전달하면 성능이 개선된다.
• 검색 정확도를 높이려면 벡터 DB와 전통적인 키워드 검색을 RRF로 결합하는 것이 유리하다.

MoE

— 전체 파라미터 중 일부만 활성화하여 추론 효율을 높이는 구조이다. 본 프로젝트에서는 80B 규모의 대형 모델을 효율적으로 실행하기 위해 사용되었다.

mmWave Radar

— 60GHz 대역의 전자기파를 이용해 미세한 움직임을 감지하는 기술이다. 비접촉 방식으로 사용자의 심박수와 호흡수를 실시간 측정하는 데 활용된다.

RRF

— 서로 다른 검색 알고리즘의 결과를 통합하여 순위를 재조정하는 기법이다. 여기서는 벡터 검색과 키워드 검색 결과를 결합해 메모리 검색 정확도를 높인다.

OCuLink

— 외부 그래픽 카드나 저장장치를 고속으로 연결하는 인터페이스 표준이다. PCIe 대역폭 손실을 최소화하여 외부 GPU 성능을 극대화하는 데 사용된다.