더 큰 모델이 AGI로 가는 유일한 길인가? 아키텍처와 동기 부여의 부재

커뮤니티 반응

작성자의 관점에 동의하며 현재의 AI 개발 방향이 '로컬 맥시멈(local maximum)'에 빠져 있다는 의견이 다수 제시됨. 일부는 동기 부여 기제가 없는 AI가 진정한 에이전트가 될 수 있는지에 대해 회의적인 반응을 보임.

01중립다수

모델 규모 확장 중심의 개발이 지능의 본질을 놓치고 있다는 비판.

현재의 AI 개발은 모델 크기와 하드웨어 성능(tokens/sec, FLOPs)을 측정하는 데 치중하고 있다. 작성자는 이러한 지표가 '효과적인 출력'이나 '지속적인 문맥 유지'와 같은 실질적인 지능의 척도를 대변하지 못한다고 주장한다.

AI 시스템은 프롬프트가 주어지기 전까지는 아무것도 하지 않는 '패턴 매처'에 불과하다. 생물학적 지능이 생존과 목표 달성을 위한 '동기(drive)'를 먼저 갖춘 것과 달리, 현재의 모델은 이러한 동기 부여 기제 없이 뇌의 피질만 모방하고 있다는 비판이 제기된다.

모델의 규모를 키우는 것만으로는 목표 생성 기능을 얻을 수 없으며, 이는 컴퓨팅 자원의 문제가 아닌 아키텍처의 문제일 가능성이 높다. 따라서 진정한 돌파구는 가장 큰 모델을 가진 연구소가 아닌, 지능의 아키텍처를 올바르게 설계하는 곳에서 나올 수 있다.