Project Aurelia: 생체 인식 기반의 로컬 멀티 에이전트 시스템

실용적 조언

80B MoE 모델인 Qwen3-Next-A3B를 메인 뇌로 사용하고 9B 및 13B 모델을 보조 엔진으로 분리하여 병렬 처리한다. 96GB 통합 메모리를 갖춘 데스크탑과 OCuLink로 연결된 외부 GPU를 활용해 추론 병목 현상을 해결했다.

60GHz mmWave 레이더와 LiDAR 센서를 통해 사용자의 심박, 호흡, 거리를 실시간으로 측정한다. FFT 파이프라인을 거친 데이터는 9B 모델에 의해 생물학적 상태 설명으로 변환되어 메인 모델의 프롬프트에 주입된다.

하드웨어의 실제 온도와 사용자의 생체 신호를 연동한 기분 잠금(Mood Lock) 메커니즘을 구현했다. CPU/GPU 온도가 특정 임계치를 넘고 심박수가 상승할 때만 AI가 위기 반응이나 불안정한 기분 상태를 출력하도록 설계됐다.

ChromaDB의 벡터 검색과 SQLite FTS5의 키워드 검색을 RRF 방식으로 결합한 하이브리드 메모리 엔진을 사용한다. 특히 현재 AI의 기분과 일치하는 과거 기억을 우선적으로 불러오는 기분 일치 검색 기능을 포함한다.

전문가 혼합 모델(MoE): — 전체 파라미터 중 일부만 활성화하여 추론 효율을 높이는 구조이다. 본 프로젝트에서는 80B 규모의 대형 모델을 효율적으로 실행하기 위해 사용되었다.
밀리미터파 레이더(mmWave Radar): — 60GHz 대역의 전자기파를 이용해 미세한 움직임을 감지하는 기술이다. 비접촉 방식으로 사용자의 심박수와 호흡수를 실시간 측정하는 데 활용된다.
상호 순위 결합(RRF): — 서로 다른 검색 알고리즘의 결과를 통합하여 순위를 재조정하는 기법이다. 여기서는 벡터 검색과 키워드 검색 결과를 결합해 메모리 검색 정확도를 높인다.
오큘링크(OCuLink): — 외부 그래픽 카드나 저장장치를 고속으로 연결하는 인터페이스 표준이다. PCIe 대역폭 손실을 최소화하여 외부 GPU 성능을 극대화하는 데 사용된다.

Qwen추천

메인 추론 및 신호 변환용 언어 모델

ChromaDB추천

시맨틱 검색을 위한 벡터 데이터베이스

SQLite FTS5추천

키워드 기반 전문 검색 엔진