스토캐스틱 패럿: 구글이 해고한 연구자의 경고가 현실이 되기까지

섹션별 상세

Stochastic Parrots 논문은 대규모 데이터 학습이 언어 이해 없는 통계적 모방에 불과하며, 이로 인해 신뢰할 수 없는 환각 문제가 발생할 것을 2020년에 이미 예견했다.

인터넷 데이터를 학습한 모델은 지배적인 관점을 과대 대표하고 소수 의견을 배제하여, 채용·의료·금융 등 사회적 영역에서 편향을 증폭시킨다.

모델 규모 확장에 따른 환경 비용은 급증하여 구글과 마이크로소프트 등 주요 기업의 탄소 배출량을 크게 늘렸으며, 이는 기존 기후 공약을 무색하게 만들었다.

학습 데이터셋의 방대함으로 인해 데이터 감사(audit)가 불가능해졌으며, 이는 Stable Diffusion 학습 데이터에서 아동 성착취물 사례가 발견되는 등 심각한 보안 및 윤리적 실패로 이어졌다.

AI 기술의 발전은 소수 기업에 권력을 집중시키며, 합성 데이터가 다시 학습에 사용되면서 언어 모델의 성능이 저하되는 '모델 붕괴(model collapse)' 현상을 초래한다.

스토캐스틱 패럿(Stochastic Parrots): — 대규모 언어 모델이 실제 의미를 이해하지 못한 채 학습 데이터의 통계적 패턴만을 모방하여 출력하는 현상을 비판적으로 지칭하는 용어. 모델의 지능이 실제가 아닌 통계적 확률에 기반함을 강조한다.
모델 붕괴(Model Collapse): — AI가 생성한 합성 데이터를 다시 학습에 사용할 경우 모델의 성능이 점진적으로 저하되고 데이터의 다양성이 상실되는 현상. 데이터 오염으로 인해 모델의 지능이 퇴화한다.
환각(Hallucination): — 언어 모델이 사실과 다르거나 논리적으로 맞지 않는 정보를 마치 진실인 것처럼 자신 있게 생성하는 현상. 모델의 통계적 예측 방식에서 기인하는 고질적인 문제다.