LLM과 온라인 소셜 월드: 새로운 사회적 행위자의 등장과 도전 과제 | AI Trends

Stanford OnlineAI/ML

LLM과 온라인 소셜 월드: 새로운 사회적 행위자의 등장과 도전 과제

LLM이 온라인 커뮤니티에서 사회적 행위자로 기능하며 발생하는 프라이버시 관리 방식과 독성 사용자 교화를 위한 챗봇 활용 가능성을 실증 연구를 통해 분석한다.

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

LLM은 인간과 유사한 사회적 단서를 제공함으로써 깊은 정서적 유대를 형성하지만, 이는 새로운 프라이버시 위험을 초래한다. 동시에 챗봇을 활용한 성찰적 대화는 온라인 커뮤니티의 독성 행동을 개선하는 회복적 정의의 도구로 활용될 잠재력이 있다.

배경

LLM이 인간의 일상적인 사회적 상호작용에 깊숙이 통합되면서, AI를 단순한 도구가 아닌 사회적 행위자로 인식하는 경향이 강해지고 있다.

대상 독자

AI 서비스 기획자, HCI 연구자, 온라인 커뮤니티 운영자, AI 윤리 및 프라이버시 전문가

의미 / 영향

이 연구는 LLM이 단순한 정보 검색 도구를 넘어 온라인 사회의 중재자이자 교육자로서의 잠재력을 가졌음을 시사한다. 향후 플랫폼 운영자들은 처벌 중심의 자동화 도구에서 벗어나 사용자의 행동 변화를 유도하는 성찰형 AI 인터페이스를 도입하게 될 것이다. 이는 AI 기술이 인간의 사회적 규범과 프라이버시 인식을 어떻게 재구성하는지에 대한 중요한 설계 지침을 제공한다.

챕터별 상세

00:05

사회적 행위자로서의 LLM과 CASA 모델

인간이 컴퓨터를 사회적 존재로 대하는 CASA(Computers Are Social Actors) 모델을 바탕으로 LLM의 사회적 역할을 정의한다. 위키피디아의 ClueBot NG와 같은 사례를 통해 자동화된 봇이 이미 온라인 협력의 핵심적인 부분을 담당하고 있음을 보여준다. LLM은 기존 기술보다 더 강력한 사회적 능력을 갖추고 있어 온라인 사회 프로세스를 근본적으로 변화시킬 수 있는 새로운 유형의 사회적 행위자이다.

CASA 모델은 사람들이 컴퓨터가 사회적 단서를 제공할 때 무의식적으로 인간에게 적용하는 사회적 규칙을 컴퓨터에게도 적용한다는 이론이다.

07:20

AI 컴패니언과 프라이버시 관리 전략

Replika, Nomi 등 AI 컴패니언 사용자 15명을 대상으로 한 인터뷰 연구 결과를 공유한다. 사용자들이 AI를 비판단적인 존재로 인식하여 인간 친구보다 더 깊은 개인 정보를 공유하는 '수평적 프라이버시'의 특징을 발견했다. 반면, 기업의 데이터 수집 및 오남용에 대한 '수직적 프라이버시' 위험에 대해서는 가짜 이메일 사용이나 친구 이름 변경 등의 전략으로 대응하고 있었다. 특히 사용자들은 데이터 유출보다 서비스 종료로 인한 관계 상실(데이터 소실)을 더 큰 위험으로 간주하는 독특한 양상을 보였다.

수평적 프라이버시는 대등한 관계 사이의 정보 보호를, 수직적 프라이버시는 개인과 거대 조직(기업, 정부) 사이의 데이터 권력 관계를 의미한다.

26:29

레딧 독성 사용자 교화를 위한 챗봇 실험

레딧의 7개 커뮤니티에서 독성 댓글로 제재를 받은 사용자들에게 챗봇이 접근하여 대화를 시도한 실험이다. 직접적으로 잘못을 지적하는 방식은 강한 방어 기제를 유발했으나, "자랑스럽지 않은 행동을 한 적이 있나요?"와 같은 성찰적 질문은 30~40%의 사용자가 자신의 행동을 돌아보게 만드는 효과를 거두었다. 하지만 이러한 성찰적 대화가 이후의 실제 독성 행동 감소로 이어지는 통계적 유의미성은 발견되지 않았는데, 이는 독성 행동이 드물게 발생하는 대다수 사용자의 특성 때문으로 분석된다.

Perspective API는 구글 Jigsaw에서 개발한 도구로, 텍스트의 독성(Toxicity) 점수를 0에서 1 사이로 측정한다.

38:37

온라인 사회 프로세스를 위한 챗봇 설계 제언

LLM을 온라인 커뮤니티의 긍정적인 사회적 도구로 활용하기 위한 구체적인 방안을 제시한다. 커뮤니티의 규범을 가르치는 온보딩 봇, 갈등 상황에서 사과를 중재하는 미디에이션 봇, 그리고 징계 전 사용자의 의도를 묻는 게이트키핑 봇 등의 아이디어를 제안한다. 챗봇이 도덕적 판단을 내리는 주체가 되기보다 인간의 성찰을 돕는 보조자 역할을 수행할 때 가장 효과적임을 강조한다.

회복적 정의(Restorative Justice)는 가해자에 대한 처벌보다 피해 회복과 공동체 관계 복원에 집중하는 접근 방식이다.

실무 Takeaway

AI 컴패니언 설계 시 사용자가 AI를 비판단적 존재로 인식한다는 점을 고려하여 심리적 안전감을 제공하되, 수집된 데이터의 투명한 관리 정책을 통해 수직적 프라이버시 우려를 해소해야 한다.
온라인 커뮤니티 모더레이션에서 AI 봇은 단순 차단보다 사용자의 자발적 성찰을 유도하는 질문을 던질 때 방어 기제를 낮추고 건설적인 대화를 이끌어낼 수 있다.
LLM 기반 챗봇은 대화 시작 방식(Conversation Starter)에 따라 사용자의 반응이 극명하게 갈리므로, 초기 프롬프트 설계에 사회심리학적 접근이 필수적이다.
징계 대상 사용자에게 AI를 활용한 '회복적 정의' 접근법을 적용하면, 처벌 위주의 관리보다 커뮤니티 규범을 더 효과적으로 내재화시킬 수 있는 가능성이 있다.

언급된 리소스

DemoPerspective API

문서Community Data Science Collective

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 01. 16.수집 2026. 02. 21.출처 타입 YOUTUBE

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.