AI 작성 텍스트를 감지하는 텍스트 워터마킹

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

AI가 작성한 텍스트를 감지하려면 문자의 표면을 바꾸는 대신 LLM의 토큰 선택 과정에 숨은 신호를 넣을 수 있습니다. FreqMark는 [The], [cat], [sat], [on], [the]처럼 생성된 토큰의 순위를 [1], [3], [5], [3], [1]로 표현하고, 이 순위 흐름을 파형 형태의 신호로 처리합니다. Fourier 변환을 활용한 Frequency-Domain Watermarking은 이렇게 만들어진 패턴을 분석해 인간 작성 문장과 AI 생성 문장을 구분하는 접근입니다. 다만 게시물에는 검출 정확도나 비교 실험 수치가 포함되지 않았습니다.

섹션별 상세

게시물은 AI가 작성한 텍스트를 판별하는 방법으로 Frequency-Domain Watermarking과 FreqMark를 제시합니다. 핵심은 문자의 표면을 직접 조작하는 대신 LLM이 토큰을 선택하는 생성 과정에 개입하는 방식입니다. 따라서 사람이 읽는 문장의 형태를 크게 바꾸지 않고도 검출 신호를 남기는 접근으로 정리됩니다.

이미지의 도식에서는 [The], [cat], [sat], [on], [the] 같은 토큰에 각각 [1], [3], [5], [3], [1]의 순위가 대응하고, 이 순위의 흐름이 파형처럼 처리됩니다. 기존 방식이 문자를 조작했다면 FreqMark는 토큰 순위를 수치적 특징으로 사용해 신호를 구성합니다. 게시물은 Fourier 변환을 활용해 이 숨은 패턴을 분석하고 AI 생성 문장과 인간 작성 문장을 구분하는 원리를 설명합니다.

이미지 분석

Diagram
이미지는 [The], [cat], [sat], [on], [the] 토큰에 [1], [3], [5], [3], [1] 순위를 대응시키고, 순위 변화가 파형 형태의 신호로 이어지는 과정을 나타냅니다. 게시물의 Frequency-Domain Watermarking이 텍스트를 직접 변형하지 않고 토큰 선택 순위를 수치 신호로 바꿔 AI 생성 여부를 판별한다는 설명과 연결됩니다.
FreqMark가 문자의 표면이 아니라 토큰 순위를 신호로 활용하는 과정을 나타낸 기술 도식입니다.

용어 해설

주파수 영역 워터마킹(Frequency-Domain Watermarking): — 텍스트에 직접 눈에 띄는 표식을 넣는 대신 생성 과정의 주파수 성분이나 패턴에 숨은 신호를 삽입해 AI 생성 여부를 판별하는 기법입니다. 문장 의미를 유지하면서 검출 가능한 신호를 남기는 점이 핵심입니다.
Fourier 변환(Fourier Transform): — 복잡한 신호를 서로 다른 주파수 성분으로 분해하는 수학적 변환입니다. 텍스트 생성 과정에 나타나는 패턴을 주파수 관점에서 처리해 워터마크 신호를 찾거나 삽입하는 데 활용됩니다.
토큰 순위(Token Rank): — 모델이 다음 토큰을 선택할 때 각 후보에 부여되는 상대적 순서입니다. FreqMark는 텍스트 표면을 직접 바꾸기보다 생성 토큰의 순위에 신호를 반영하는 방식으로 워터마크를 구성합니다.
대규모 언어 모델(LLM): — 텍스트를 입력받아 다음 토큰의 확률을 계산하고 문장을 생성하는 모델입니다. 이 글에서는 LLM이 선택하는 토큰 순위에 숨은 신호를 넣어 생성 텍스트를 판별하는 대상이 됩니다.