핵심 요약
NYU에서 열린 'Cultural AI' 컨퍼런스의 논의를 바탕으로, 대형 언어 모델(LLM)의 본질을 '기계화된 전통(Mechanized Tradition)'으로 규정한다. 코스마 샬리지는 AI가 새로운 지능을 발휘하기보다 훈련 데이터 속의 언어적 관습과 템플릿을 기계적으로 복제하는 도구라고 주장한다. 레이몽 크노의 '문체 연습'을 활용한 실험 결과, 인간과 AI 모두 실제 품질과 무관하게 '인간이 쓴 글'이라는 라벨에 더 높은 점수를 주는 편향성을 보였다. 결과적으로 AI는 개별적 인격체가 아닌, 사회적 지성이 축적된 '지적 관습의 세탁기'로 이해해야 한다.
배경
LLM의 기본 작동 원리 (Next-token prediction), 사회과학적 설문 및 실험 설계에 대한 기초 지식
대상 독자
AI 윤리 및 사회과학 연구자, LLM의 본질을 탐구하는 개발자, 문화 기술 전문가
의미 / 영향
AI를 인격체로 보는 시각에서 벗어나 인류 문화의 거울이자 도구로 재정의한다. 특히 AI 평가 시스템에서 발생하는 '인간 선호 편향'을 수치로 입증함으로써, 향후 AI 벤치마크 설계 시 라벨링에 의한 오염 가능성을 경고한다.
섹션별 상세

실무 Takeaway
- LLM을 독립된 지능이 아닌 인류의 문화적 관습과 템플릿을 복제하는 '기계화된 전통'으로 인식하여 기술의 본질적 한계를 파악해야 한다.
- 콘텐츠 평가 시 '인간 저자'라는 라벨이 주는 심리적 편향이 실제 텍스트 품질보다 더 큰 영향을 미치므로, AI 결과물 평가 시 블라인드 테스트가 필수적이다.
- AI는 새로운 지식을 창조하기보다 기존의 지적 관습을 효율적으로 재사용하게 해주는 도구이므로, 창의적 사고와 정형화된 형식의 구분이 필요하다.
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.