AI 모델은 정말 감정을 느낄까? Anthropic의 AI 신경과학 연구

AI 신경과학은 뇌의 뉴런 활동을 연구하는 생물학적 방법론을 인공 신경망의 가중치와 활성화 분석에 적용한 것이다.

모델이 텍스트의 맥락을 파악할 때 특정 뉴런 그룹이 일관되게 반응한다는 것은 해당 개념을 구조적으로 이해하고 있음을 의미한다.

특정 뉴런의 활성도를 조절하는 것은 뇌 자극 실험과 유사하게 모델의 내부 상태를 인위적으로 조작하여 행동 변화를 관찰하는 기법이다.

기능적 감정은 주관적 경험(Qualia)은 없으나 시스템의 출력과 행동을 결정하는 내부 변수로서의 감정을 뜻한다.