거대 모델 패러다임에 대한 비판과 '검소한 AI'를 향한 제언

섹션별 상세

모든 것을 한 번에 해결하려는 '디지털 기계 신' 패러다임은 작업 정의를 불분명하게 만들어 기존에 없던 기술적 결함을 발생시킨다. Whisper와 같은 거대 음성 인식 모델이 의료 기록 전사 과정에서 실제 음성과 무관한 문장을 만들어내는 '환각' 현상이 대표적인 사례이다. 이는 입력과 출력의 관계가 명확했던 기존의 특화된 음성 인식 도구에서는 발생하지 않았던 문제이다.

빅테크 기업들은 데이터 무단 수집과 막대한 GPU 투자를 경쟁 우위로 삼기 때문에 자원 효율적인 기술을 연구하거나 공유할 동기가 없다. 이러한 환경은 연구자들의 상상력을 제한하며, 더 적은 자원으로 더 나은 결과를 낼 수 있는 진정한 기술적 혁신을 가로막는 장애물이 된다. DeepSeek과 같은 사례도 결국 기존의 거대 언어 모델 패러다임 안에 갇혀 있다는 한계가 존재한다.

뉴질랜드의 Te Hiku Media와 같은 지역 사회 기반 조직들은 마오리어 부흥을 위해 데이터를 직접 큐레이션하고 소규모 모델을 활용하여 실질적인 가치를 창출한다. 이들은 빅테크의 데이터 라이선스 제안을 거절하며 데이터 주권을 지키고 있으며, '검소한 AI'가 거대 모델보다 특정 맥락에서 더 우수한 성능을 낼 수 있음을 증명한다.

소규모 AI 조직들이 데이터와 컴퓨팅 자원을 공유하는 '연합(Federation)'을 형성하는 것이 빅테크 독점에 대항하는 실질적인 전략이다. 에티오피아의 Lesan이나 가나의 NLP 조직처럼 특정 지역 언어와 정치적 맥락을 잘 아는 주체들이 연합하여 통합된 인터페이스를 제공함으로써 투자자와 고객의 요구에 대응하고 자생력을 확보할 수 있다.

공학의 기본 원칙인 '특정 목적을 위한 특정 도구 제작'으로 회귀해야 한다. 컴퓨터 비전 분야에서도 모든 것을 판별하는 초지능을 꿈꾸기보다, 식물 인식이나 의료 영상 분석처럼 구체적인 맥락에 맞는 데이터를 수집하고 그에 최적화된 모델을 구축하는 것이 환경 파괴와 노동 착취를 줄이는 길이다.

클라우드 서비스 의존도를 낮추기 위해 자체 컴퓨팅 인프라를 구축하는 것이 장기적으로 훨씬 경제적이다. DAIR Institute의 분석 결과, 40만 달러의 일회성 투자로 구축한 자체 클러스터가 연간 200만 달러에 달하는 AWS나 Google Cloud 비용을 대체할 수 있음이 확인됐다. 이러한 자원 공유 모델은 빅테크가 주도하는 생태계의 대안이 된다.

용어 해설

환각 현상(Hallucination): — AI 모델이 학습 데이터에 없는 허위 정보를 사실처럼 생성하는 현상이다. 거대 모델 패러다임에서 작업 정의가 불분명할 때 빈번하게 발생하며, 의료나 법률 등 정확성이 중요한 분야에서 심각한 신뢰성 문제를 야기한다.
검소한 AI(Frugal AI): — 방대한 자원과 데이터를 쏟아붓는 대신, 특정 목적에 맞춰 최소한의 자원으로 효율적인 성능을 내는 AI 접근 방식이다. 저자원 언어나 특정 지역 사회의 문제를 해결하기 위해 데이터 큐레이션과 소규모 모델 최적화에 집중한다.
데이터 주권(Data Sovereignty): — 데이터가 생성된 주체나 지역 사회가 해당 데이터의 수집, 저장, 활용에 대한 통제권을 갖는 개념이다. 빅테크의 무분별한 데이터 수집에 대항하여 지역 공동체의 자산을 보호하고 그 이익이 공동체로 돌아가게 하는 것이 핵심이다.
연합(Federation): — 독립적인 소규모 조직들이 자원, 데이터, 기술을 공유하기 위해 형성하는 협력 체계이다. 개별 조직의 자율성을 유지하면서도 공동의 인프라를 구축하여 빅테크의 독점적 자본력과 컴퓨팅 자원에 대항하는 전략으로 활용된다.

기술

Whisper
No Language Left Behind (NLLB)
DeepSeek
AWS
Google Cloud

활용 사례

저자원 언어 번역 및 음성 인식
의료 기록 자동 전사
지역 사회 중심 데이터 큐레이션 및 관리
자체 컴퓨팅 클러스터 운영

언급된 리소스

문서DAIR Institute

문서Te Hiku Media

문서Lesan

문서Ghana NLP