LLM에게는 '할머니'가 필요하다: 지식 붕괴에 대한 아세모글루 논문의 비판적 검토

섹션별 상세

아세모글루, 콩, 오즈다글라르의 NBER 워킹 페이퍼는 에이전트형 AI가 개인의 의사결정은 돕지만, 그 과정에서 부산물로 생성되던 일반 지식의 축적을 저해하여 지식 붕괴를 초래할 수 있다고 분석했다.

원문 모델의 한계는 모든 학습자를 동일한 연령, 전문성, 동기를 가진 균질한 집단으로 가정한다는 점이며, 특히 보상 없이도 지식의 생존과 품질을 보장하기 위해 노력하는 할머니와 같은 고숙련 전문가 계층을 누락했다.

진화 인류학에서 할머니 가설은 생산 활동이 끝난 후에도 의존자들의 생존과 문화적 전수를 돕는 전문가의 역할을 강조하며, 이들은 AI가 대체하는 단기적 보상에 휘둘리지 않고 지식의 토대를 유지하는 안정화 장치 역할을 수행한다.

현재의 AI 개발 파이프라인은 주로 젊은 저임금 노동자나 서면 원칙에 의존하고 있으며, 이는 실제 도메인 전문가의 체화된 판단력을 시스템에 반영하지 못하는 구조적 문제를 안고 있다.

AI 아키텍처 내에 할머니 기능을 도입하는 것은 의료, 법률 등 전문 분야의 시니어 전문가들이 모델 출력을 지속적으로 감사하고 그 결과를 학습 신호로 직접 피드백하는 구조를 구축하는 것을 의미한다.

지식 붕괴(Knowledge Collapse): — AI가 인간의 문제 해결 노력을 대체함에 따라, 그 노력의 부산물로 생성되던 일반적인 지식과 전문성이 세대 간에 전수되지 못하고 소멸하는 현상이다. 이는 장기적으로 사회 전체의 지적 역량 저하를 초래할 수 있어 AI 윤리 및 정책의 주요 화두가 되고 있다.
인간 피드백 기반 강화학습(RLHF): — 인간이 AI의 답변을 평가하고 순위를 매긴 데이터를 바탕으로 모델을 미세 조정하는 기법이다. 모델이 인간의 의도와 가치관에 부합하도록 정렬하는 데 필수적이지만, 평가자의 전문성 수준에 따라 모델의 품질이 결정되는 한계가 있다.
헌법적 AI(Constitutional AI): — 인간의 직접적인 피드백 대신 명문화된 원칙을 바탕으로 AI가 스스로 자신의 답변을 평가하고 수정하도록 학습시키는 방식이다. Anthropic이 제안한 기법으로 효율적이지만, 실제 전문가의 복잡한 판단력을 완전히 대체하기 어렵다는 비판을 받기도 한다.
에이전트형 AI(Agentic AI): — 단순한 질문 답변을 넘어 사용자의 목표를 이해하고 스스로 계획을 세워 도구를 사용하거나 의사결정을 수행하는 AI 시스템이다. 인간의 개입을 줄여 효율성을 높이지만, 인간의 학습 유인을 감소시켜 지식 숙련도를 낮출 위험이 있다.