LLM 에이전트를 활용한 대규모 온라인 익명성 해제 연구

프라이버시 침해에 대한 우려와 LLM의 추론 능력에 대한 경계심이 주를 이룬다.

• 온라인에 글을 작성할 때 개인을 특정할 수 있는 미세한 정보(거주 지역, 직종 등)의 노출을 최소화해야 한다

• ETH Zurich와 Anthropic 연구진은 LLM 에이전트가 비구조화된 데이터에서 신원을 파악하는 것이 이제 실용적인 수준에 도달했다고 판단했다

• LLM 에이전트는 익명 텍스트에서 개인 식별 정보를 추론하고 웹 검색과 결합해 신원을 특정할 수 있다.
• 수만 명 규모의 대규모 데이터셋에서도 높은 정확도로 자동화된 익명성 해제가 가능하다.
• 기존의 비구조화된 데이터 익명화 방식은 고도화된 LLM 추론 공격에 취약하다.