EEG 신호를 활용한 LLM 감정 조건부 기억 생성 연구

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

EEG에서 추출한 감정 확률 분포를 프롬프트 컨텍스트로 주입하여 LLM의 자전적 기억 생성 시 감정적 일관성을 높이는 연구.

배경

LLM의 자전적 기억 생성 과정에서 발생하는 감정적 환각 문제를 해결하기 위해, EEG 신호 기반의 감정 확률 분포를 프롬프트에 주입하는 조건부 생성 방식을 제안했다.

섹션별 상세

LLM은 자전적 기억 생성 시 감정적 톤을 자유롭게 환각하는 문제가 있다. 기존의 프롬프트 엔지니어링 방식으로는 모델의 감정적 톤을 일관되게 제어하기 어렵다. 이를 해결하기 위해 생체 신호인 EEG를 활용하여 감정적 근거를 마련하고자 했다.

EEG 신호에서 5개 주파수 대역의 차분 엔트로피를 추출하고, FACED 데이터셋으로 학습된 Random Forest 분류기를 통해 9가지 감정 확률 분포를 도출한다. 이 확률 벡터를 프롬프트에 구조화된 컨텍스트로 주입하여 모델이 감정 상태에 일관된 기억을 생성하도록 유도한다. 이 방식은 모델이 감정적 톤을 임의로 생성하지 않고, 실제 생체 신호에 기반하여 기억을 생성하게 한다.

현재 결과는 정성적 평가 단계에 머물러 있으며, 생성된 기억 서사가 주입된 감정 상태와 일관성을 유지함을 확인했다. 정량적 지표는 아직 마련되지 않았으며, 향후 연구에서 이를 보완할 예정이다. 감정적 일관성을 정량적으로 측정하는 것은 이 연구의 핵심적인 다음 과제이다.

기존의 BLEU나 ROUGE와 같은 텍스트 유사도 기반 지표는 감정적 정렬을 측정하는 데 한계가 있다. 이러한 지표들은 텍스트의 의미적 유사성만 평가할 뿐, 감정적 톤의 일관성을 평가하지 못한다. 감정적 조건부 생성 모델을 평가하기 위한 새로운 프레임워크에 대한 커뮤니티의 의견을 구하고 있다.

실무 Takeaway

EEG 신호의 차분 엔트로피를 활용해 감정 상태를 정량화하고 이를 LLM 프롬프트에 구조화된 컨텍스트로 주입하여 감정적 일관성을 높일 수 있다.
Random Forest 분류기를 사용하여 EEG 신호에서 9가지 감정 확률 분포를 추출하고, 이를 구조화된 컨텍스트로 프롬프트에 주입하여 모델의 감정적 일관성을 제어할 수 있다.
기존의 BLEU/ROUGE와 같은 텍스트 유사도 지표는 감정적 정렬을 평가하는 데 한계가 있어 새로운 평가 프레임워크가 필요하다.

언급된 리소스

논문Preprint (Zenodo)

GitHubGitHub