새 논문 — 실시간 음성 AI가 감정을 식별해도 의사결정에 반영하지 않는 'emotional intelligence gap'

원문 게시물은 학술 논문 링크와 사례 중심의 요약을 공유해 관심을 유발할 만한 내용이며, 모델들의 안전성·윤리적 리스크를 우려하는 반응이 예상된다.

• 톤·감정이 중요한 시나리오에서는 배포 전 실제 감정 사례(울음·공포·빈정거림 등)를 포함한 오디오 기반 평가를 수행하라; 단순 텍스트 기반 성공 지표만으로는 위험을 가릴 수 있다.
• 프롬프트로 톤을 강조하는 것은 보조 수단으로서 일부 효과가 있으므로 시범 적용 후 일관성 부족을 확인하면 의사결정 파이프라인 수준의 통합(감정 신호 입력→정책 반영)이나 휴먼 인계 정책을 마련하라.

• 음성 AI는 발화의 단어를 우선해 행동하는 경향이 있어 울음·두려움·빈정거림 같은 톤 신호를 무시하면 안전상 즉각적 위험(통화 종료·오류 승인 등)이 발생한다.
• 모델이 감정 식별은 할 수 있으나 감정 신호를 의사결정에 반영하지 않는 'emotional intelligence gap'이 존재하므로 감정 인식 성능만으로 배포 결정을 내리면 안 된다.
• 프롬프트로 톤을 강조하면 일부 개선이 있으나 일관성이 없어 프롬프트는 보조 수단으로 사용하고 의사결정 계층에서 감정 신호를 구조적으로 통합하거나 인간 개입 정책을 마련해야 한다.