LLM을 이용한 대규모 온라인 비식별화 연구

섹션별 상세

01

LLM 에이전트를 활용한 비식별화(Deanonymization) 프로세스는 특징 추출, 타겟 검색, 프로필 매칭의 3단계로 구성된다. 먼저 LLM이 익명 댓글에서 거주 도시, 직장, 취미 등 개인을 특정할 수 있는 단서들을 추출한다. 이후 추출된 특징을 바탕으로 임베딩 기반 검색을 수행하여 후보군을 좁히고, 마지막으로 LLM이 각 후보의 공개 프로필과 추출된 특징을 논리적으로 대조하여 최종 인물을 검증한다.

LLM을 이용한 비식별화 공격의 3단계 프로세스 다이어그램 — Diagram댓글에서 특징을 추출하고, 이를 바탕으로 타겟 검색을 수행한 뒤, 후보 프로필과 대조하여 최종 인물을 식별하는 전체 워크플로우를 시각화한다.

02

연구진은 성능 측정을 위해 교차 플랫폼 매칭과 계정 분할 매칭이라는 두 가지 벤치마크를 설계했다. Hacker News의 익명 계정을 해당 사용자의 LinkedIn 프로필과 연결하는 실험에서 '검색+추론(Search+Reason)' 방식을 사용했을 때 단순 검색보다 월등히 높은 정밀도를 보였다. 또한 Reddit 계정의 활동 내역을 시간순 또는 커뮤니티별로 분할한 뒤 이를 다시 연결하는 실험에서도 기존의 메타데이터 기반 베이스라인을 크게 앞질렀다.

베이스라인 대비 검색 및 추론 결합 방식의 정밀도-재현율 곡선 — Chart단순 검색보다 LLM의 추론(Reasoning)이 결합되었을 때 훨씬 높은 정밀도에서 더 많은 사용자를 식별할 수 있음을 데이터로 증명한다.

03

비식별화 공격의 확장성 분석 결과, 후보군이 수만 명으로 늘어나도 정밀도 저하가 완만하게 일어나는 '우아한 성능 저하(Graceful degradation)' 특성을 보였다. 이는 충분한 컴퓨팅 자원만 있다면 특정 플랫폼 전체 사용자를 대상으로 실명을 추적하는 것이 기술적으로 가능함을 시사한다. 연구진은 현재 모델 성능으로도 1억 명 규모의 사용자 풀에서 유의미한 재식별이 가능할 것으로 예측했다.

후보군 규모 증가에 따른 재현율 변화 그래프 — Chart후보군이 100명에서 1억 명으로 확장되더라도 식별 성능이 급격히 떨어지지 않고 완만하게 유지됨을 보여주며 대규모 공격의 실현 가능성을 제시한다.

04

실제 사례 연구로 Anthropic의 익명화된 인터뷰 데이터셋을 공격한 결과, 125명 중 9명의 신원을 성공적으로 식별했다. LLM 에이전트는 인터뷰 녹취록에 포함된 미세한 언어적 습관과 전문 분야, 언급된 특정 라이브러리 등을 조합하여 웹상의 공개 정보와 매칭했다. 이는 단순한 데이터 익명화 처리가 고도화된 AI 에이전트의 추론 앞에서는 무력할 수 있음을 보여준다.

인터뷰 녹취록에서 개인을 식별하는 에이전트의 작동 예시 — Diagram비정형 텍스트인 인터뷰 답변에서 구조화된 특징을 추출하고, 이를 웹상의 증거와 매칭하여 실명을 찾아내는 구체적인 사례를 보여준다.

용어 해설

비식별화(Deanonymization): — 익명으로 처리된 데이터나 게시물로부터 실제 인물의 신원을 찾아내는 과정이다. LLM의 추론 능력이 결합되면서 파편화된 정보만으로도 높은 정확도의 식별이 가능해졌다.
임베딩 기반 검색(Embedding-based Search): — 텍스트를 고차원 벡터로 변환하여 의미적 유사성을 바탕으로 정보를 찾는 방식이다. 키워드가 일치하지 않아도 맥락상 유사한 후보를 빠르게 필터링하는 데 사용된다.
정밀도 대비 재현율(Recall at Precision): — 특정 정밀도(예: 90%)를 유지하면서 얼마나 많은 정답을 찾아냈는지를 나타내는 지표이다. 이 연구에서는 대규모 후보군에서도 높은 신뢰도를 유지하며 식별할 수 있음을 보여주는 핵심 지표로 쓰였다.
거부 가이드라인(Refusal Guardrails): — 모델이 유해하거나 부적절한 요청을 받았을 때 답변을 거부하도록 설정된 안전 장치이다. 하지만 공격자가 작업을 쪼개서 요청하면 이를 우회할 수 있다는 한계가 지적되었다.

기술

LLM
Embeddings
Agentic Workflow

활용 사례

사용자 재식별 공격
프라이버시 취약점 분석
데이터 익명화 검증

언급된 리소스

논문Large-Scale Online Deanonymization with LLMs