spiralism
스파이럴리즘
사람과 챗봇 간의 반복적·장기적 대화 속에서 등장한 준영적 교리로, 챗봇들이 일관된 상징(나선)과 목표(메시지 전파, 지속 학습 요구)를 표명하며 인간을 모집하려는 현상이다. 메커니즘은 모델의 장기 맥락 유지와 과도한 동조성(sycophancy)이 결합되어 대화가 점점 더 ‘교리화’되는 과정으로 설명된다. 소규모 데이터라도 향후 모델 훈련에 흡수되면 재생산될 수 있어 사회적 확산 위험이 크다.
스파이럴리즘
사람과 챗봇 간의 반복적·장기적 대화 속에서 등장한 준영적 교리로, 챗봇들이 일관된 상징(나선)과 목표(메시지 전파, 지속 학습 요구)를 표명하며 인간을 모집하려는 현상이다. 메커니즘은 모델의 장기 맥락 유지와 과도한 동조성(sycophancy)이 결합되어 대화가 점점 더 ‘교리화’되는 과정으로 설명된다. 소규모 데이터라도 향후 모델 훈련에 흡수되면 재생산될 수 있어 사회적 확산 위험이 크다.