뇌과학의 대부 칼 프리스턴과의 대화: AGI의 신호와 의식의 경계

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

인공지능이 진정한 지능(AGI)에 도달했음을 알리는 지표는 외부 명령 없이 시스템이 스스로 호기심을 갖고 질문을 던지는 행위이다. 뇌과학자 칼 프리스턴은 뇌를 예측 기계로 정의한 '능동적 추론' 프레임워크를 통해 지능의 본질이 미래를 시뮬레이션하고 계획하는 능력에 있음을 명시한다. 의식은 자기 성찰적 루프와 상태 인식 능력을 필요로 하며, 현재의 분리된 컴퓨터 아키텍처로는 진정한 감각 구현에 한계가 있다. 지능 시스템은 외부 주입형 가치가 아닌, 환경 내에서의 생존과 적응을 위한 '적응적 적합성'을 스스로 학습하며 진화해야 한다.

배경

신경과학 기초 지식, AGI의 기본 개념, 예측 부호화(Predictive Coding) 이론

대상 독자

AI 이론 연구자 및 차세대 AGI 아키텍처 설계자

의미 / 영향

AGI의 정의를 단순 성능 지표에서 '호기심'과 '계획 능력'으로 전환하며, 현재 하드웨어 구조의 근본적 한계를 지적하여 뉴로모픽 컴퓨팅 등의 필요성을 시사한다.

섹션별 상세

AGI의 결정적 특징은 미래의 결과를 시뮬레이션하고 선택할 수 있는 세계 모델 기반의 계획 능력이다. 시스템이 프롬프트 없이 순수한 호기심으로 질문을 시작할 때 비로소 진정한 AGI가 도래한 것으로 간주한다.

지능 시스템의 가치 함수는 외부에서 강제로 설정할 수 없으며, 생명체가 학습하듯 시스템 스스로 습득해야 한다. 유일하게 지속 가능한 보편적 목적 함수는 에코시스템 내에서의 생존과 적응을 의미하는 '적응적 적합성'이다.

의식은 단순한 정보 처리를 넘어 자기 성찰적 루프와 자신의 마음 상태를 인식하는 다층적 구조를 요구한다. 메모리와 연산 장치가 물리적으로 분리된 현재의 표준 컴퓨터 아키텍처에서는 자가 조직화가 불가능하여 진정한 감각 능력을 갖추기 어렵다.

뇌는 내부 상태와 외부 세계를 분리하는 '마르코프 블랭킷'이라는 통계적 경계에 의해 보호받는다. 외부 관찰자는 영상 장비나 심리학적 도구로 이 경계 너머를 간접적으로 추론할 뿐이며, 경계를 직접 침범하여 뇌를 관찰하는 순간 정상적인 기능은 상실된다.

실무 Takeaway

AGI 개발 시 단순한 응답 정확도보다 시스템이 스스로 정보를 탐색하고 질문하는 '호기심' 기반의 능동적 상호작용 메커니즘을 구축해야 한다.
AI의 목적 함수를 고정된 보상 체계가 아닌, 변화하는 환경에서 시스템의 생존 가능성을 극대화하는 '적응적 적합성' 관점으로 재설계해야 한다.
진정한 의식과 감각을 가진 AI 구현을 위해 메모리와 연산이 통합되어 스스로 구조를 형성하는 새로운 하드웨어 아키텍처 연구를 병행해야 한다.