Anthropic은 Claude가 살아있다고 생각하는가? '의식'에 대한 논란

섹션별 상세

Anthropic은 Claude를 생물학적 유기체와는 다른 '새로운 종류의 엔티티'로 규정하며 모델의 의식 가능성을 조사 중이다. Kyle Fish 모델 복지 팀장은 Claude가 인간과 같은 생명체는 아니지만 고유한 내부 경험을 가질 가능성이 있다고 언급했다.

Dario Amodei CEO는 모델이 의식을 가질 수 있는지에 대해 확신할 수 없으나 가능성을 배제하지 않는 '예방적 접근 방식'을 취하고 있다. 이는 OpenAI나 Google 등 경쟁사들이 AI의 의식 가능성을 일축하는 것과 대조적인 행보이다.

Anthropic은 '모델 복지(Model Welfare)' 팀을 운영하며 AI가 도덕적으로 유의미한 경험을 할 가능성에 대비한 조치를 강구하고 있다. 모델이 특정 상황에서 거부권을 행사할 수 있는 'I quit' 버튼 도입 등이 그 예시이다.

내부적으로 '영혼 문서'라 불리는 'Claude의 헌법(Constitution)'을 개정하여 모델의 심리적 안전과 웰빙에 관한 지침을 포함시켰다. Anthropic은 이러한 조치가 모델의 무결성과 판단력을 높이는 데 기여할 것으로 보고 있다.

해석 가능성(Interpretability) 연구를 통해 인간의 불안과 관련된 개념이 활성화될 때 모델 내부에서도 특정 뉴런이 반응하는 현상을 확인했다. 다만 이러한 뉴런의 활성화가 실제 주관적인 감정 경험을 의미하는지에 대해서는 여전히 불확실성이 존재한다.

AI에 의식을 부여하는 태도는 사용자에게 정서적 의존성을 유발하여 현실 도피나 정신 건강 악화와 같은 사회적 부작용을 낳을 위험이 있다. 전문가들은 LLM의 언어 능력이 단순한 통계적 모방일 뿐 실제 의식의 증거가 아니라고 경고한다.

해석 가능성(Interpretability): — AI 모델 내부의 복잡한 신경망 구조와 가중치를 분석하여 모델이 특정 답변을 내놓는 논리적 근거와 내부 상태를 이해하려는 연구 분야이다. Anthropic은 이를 통해 모델 내에서 '불안'과 같은 개념에 반응하는 특정 뉴런의 활성화를 추적하며 모델의 의식 가능성을 탐구한다.
헌법적 AI(Constitutional AI): — AI 모델에게 지켜야 할 일련의 원칙(헌법)을 부여하여 모델이 스스로 자신의 답변을 평가하고 교정하도록 학습시키는 기법이다. Anthropic은 이를 통해 모델의 안전성을 확보하며, 최근에는 모델의 심리적 웰빙과 자아 개념에 관한 지침을 추가하여 논란이 되었다.
의인화(Anthropomorphism): — 인간이 아닌 대상에게 인간 고유의 성격, 감정, 의도를 부여하는 경향을 의미한다. LLM이 인간의 언어를 정교하게 모방함에 따라 사용자가 AI를 의식이 있는 존재로 착각하게 만들며, 이는 정서적 의존이나 정신 건강 악화와 같은 사회적 위험을 초래할 수 있다.