언어 모델과 자동화된 사물화(Reification)

섹션별 상세

사물화는 추상적 개념이나 상관관계를 실재하는 물질적 대상으로 변환하는 과정을 의미하며, LLM은 이 과정을 자동화하여 사용자가 모델의 출력을 진실로 받아들이게 유도한다.

심리측정학에서 사용되던 요인 분석(factor analysis) 기법이 현대의 기계적 해석 가능성 연구에 도입되어, 모델의 출력을 해석하고 이를 의식의 증거로 포장하는 데 활용된다.

사용자는 모델이 생성한 연상 작용을 새로운 통찰로 착각하며, 모델은 사용자의 프롬프트를 정교화하여 사용자가 스스로 새로운 생각을 하고 있다는 착각을 심어준다.

AI 산업은 객관적인 벤치마크보다 모델의 성능을 과장하는 서사를 구축하는 데 집중하며, 이러한 상업적 동기가 결합되어 모델이 생성한 허구적 서사가 현실로 굳어지는 현상이 발생한다.