혼잣말하는 AI가 더 빠르고 똑똑하게 학습한다

섹션별 상세

OIST 연구진은 AI 시스템이 훈련 과정에서 스스로와 상호작용하는 '내적 언어' 메커니즘을 도입하여 학습 성능을 개선했다. 이는 인간이 생각을 정리하거나 선택을 고민할 때 혼잣말을 하는 과정과 유사하며, AI의 유연한 사고를 돕는 핵심 요소로 작용한다.

연구의 핵심은 '중얼거림(Mumbling)'으로 묘사되는 자기 지향적 내적 언어와 특수화된 작업 기억 시스템의 결합이다. 이 구조를 통해 AI는 단순히 데이터를 암기하는 대신 일반적인 규칙을 도출하는 '내용 독립적 정보 처리(Content Agnostic Information Processing)' 능력을 갖추게 되었다.

작업 기억의 구조적 설계가 일반화 성능에 미치는 영향을 분석한 결과, 여러 개의 '슬롯(Slot)'을 가진 모델이 복잡한 순서 역전이나 패턴 재구성 작업에서 우수한 성과를 냈다. 여기에 내적 언어 목표를 추가하자 다중 작업(Multitasking)과 다단계 작업에서의 성능이 더욱 극대화되었다.

이 시스템은 방대한 데이터셋이 필요한 기존 모델과 달리 희소한 데이터(Sparse Data)만으로도 효과적인 학습이 가능하다는 강점이 있다. 이는 데이터 획득이 어려운 실제 환경이나 경량화가 필요한 시스템에 보완적인 대안을 제시한다.

용어 해설

내적 언어(Inner Speech): — 외부로 소리 내어 말하지 않고 머릿속으로 스스로와 대화하는 인지 과정이다. AI 모델에 이 메커니즘을 도입하면 학습 과정에서 정보를 조직화하고 선택지를 평가하는 자기 상호작용이 가능해져 복잡한 문제 해결 능력이 향상된다.
작업 기억(Working Memory): — 정보를 짧은 시간 동안 유지하면서 동시에 조작하고 처리하는 단기 기억 능력이다. AI 시스템에서는 데이터를 일시적으로 저장하는 슬롯 구조로 구현되어 순서 역전이나 패턴 재구성 같은 다단계 논리 작업을 수행하는 핵심 기반이 된다.
능동적 추론(Active Inference): — 에이전트가 환경에 대한 예측 모델을 갱신하고 예측 오차를 최소화하기 위해 행동한다는 이론적 프레임워크이다. 생물학적 뇌의 작동 원리를 모방하여 AI가 복잡하고 동적인 환경에서 스스로 학습하고 적응하도록 돕는 아키텍처의 기초가 된다.
일반화(Generalization): — 학습 과정에서 접하지 않은 새로운 상황이나 데이터에 대해 AI가 올바른 판단을 내리는 능력이다. 단순한 데이터 암기를 넘어 보편적인 규칙을 도출하고 적용하는 수준을 의미하며 AI의 실용성을 결정짓는 핵심 지표이다.

기술

Active Inference
Working Memory Systems
Inner Speech Models

활용 사례

가사 지원 로봇
농업 자동화 로봇
데이터 효율적 학습 시스템

언급된 리소스

논문Working Memory and Self-Directed Inner Speech Enhance Multitask Generalization in Active Inference