이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Anthropic은 EU AI Act의 Transparency Code 준수를 위해 Claude가 생성하는 텍스트에 SynthID-Text 기반 워터마크를 적용하고 탐지 API를 출시할 계획이다. Claude는 의미가 비슷한 단어 사이의 선택 지점에서 독자에게는 보이지 않는 패턴을 만들며, 키를 가진 탐지 시스템이 이를 확인한다. 가벼운 편집으로는 워터마크가 남을 수 있지만 모든 단어를 바꾸는 전면 재작성으로 제거할 수 있고, 인간이 쓴 글을 Claude가 가볍게 교정한 경우에는 탐지할 패턴이 거의 없을 수 있다. 코드는 선택 가능한 표현이 적어 워터마크가 약하지만 코드 주석에는 적용될 수 있으며, Anthropic은 다른 주요 모델 개발사들도 같은 실천 규범에 따라 워터마크를 도입할 예정이라고 밝혔다.
섹션별 상세
Anthropic은 EU AI Act의 Transparency Code 준수를 위해 Claude가 생성하는 텍스트에 워터마크를 삽입할 계획이다. Claude는 날씨를 묘사할 때 “overcast”와 “grey” 중 하나를 고르는 것처럼 의미가 비슷한 표현 사이의 선택 지점에서 특정 패턴을 만든다. 독자는 워터마크가 있는 문장과 없는 문장을 구별하기 어렵지만, 패턴을 해석하는 키를 가진 탐지 시스템은 AI 생성 여부를 확인할 수 있다.
Anthropic은 Claude의 워터마킹에 Google DeepMind 팀이 2024년에 제시한 SynthID-Text 접근법을 적용한다고 밝혔다. 이 방식은 문장 품질을 바꾸지 않는 범위에서 모델의 표현 선택에 패턴을 심고, 별도의 탐지 API가 그 패턴을 검사하는 구조다. Anthropic은 워터마킹된 응답이 일반 독자에게는 워터마킹되지 않은 응답과 구별되지 않는다고 설명했다.
워터마크는 문장을 조금 고치는 정도로는 완전히 사라지지 않을 가능성이 있지만, 모든 단어를 바꾸는 전면 재작성으로는 제거할 수 있다. Claude가 사람의 글을 가볍게 교정한 경우에는 대부분의 단어가 원래 인간이 쓴 것이므로 워터마크가 붙을 부분이 거의 없을 수 있다. 실제 탐지 가능성은 텍스트 길이와 Claude가 얼마나 많이 수정했는지에 따라 달라진다.
코드는 여러 표현이 모두 유효한 일반 텍스트보다 워터마크가 약하게 나타날 가능성이 크다. 작동하는 코드를 만들어야 하므로 모델이 임의로 선택할 수 있는 단어가 적지만, 코드 주석처럼 특정 용어나 표현을 자유롭게 고를 수 있는 부분에는 워터마크가 삽입될 수 있다. Anthropic은 이 워터마크가 실제 코드의 동작에는 무시할 수 있을 정도의 영향을 준다고 밝혔다.
Anthropic은 워터마킹이 문체의 흔적을 찾는 Pangram 같은 AI 탐지 방식과 다르다고 구분했다. 문체 탐지는 특정 표현 패턴을 근거로 AI 사용 가능성을 추정하지만, 워터마킹 탐지는 모델이 생성 과정에서 삽입한 키 기반 패턴을 직접 확인한다. 같은 Code of Practice에 서명한 다른 주요 모델 개발사들도 자체 워터마크를 구현할 예정이어서 Claude에만 한정된 정책은 아니다.
용어 해설
- 워터마킹(Watermarking)
- — AI가 생성한 텍스트에 독자가 알아채기 어려운 선택 패턴을 삽입하고, 해당 패턴을 해석하는 키를 가진 탐지 시스템이 생성 여부를 확인하는 기술이다. 문장 품질을 바꾸지 않으면서 AI 생성 콘텐츠 식별을 지원하는 방식이다.
- SynthID-Text
- — Google DeepMind 팀이 2024년에 제시한 텍스트 워터마킹 접근법이다. 모델이 여러 표현 중 선택할 수 있는 지점에서 특정 패턴을 만들고, 별도 탐지 시스템이 그 패턴을 확인하는 방식으로 작동한다.
- EU AI Act
- — 유럽연합의 인공지능 규제로, AI 기업이 AI 생성 콘텐츠를 식별할 수 있는 시스템을 사용하도록 투명성 관련 요구사항을 둔다. Anthropic은 이 규정의 Transparency Code 준수를 워터마킹 도입 배경으로 제시했다.
- 워터마크 탐지 API(Watermark Detection API)
- — 텍스트에 삽입된 워터마크 패턴을 외부 시스템이 확인할 수 있도록 제공되는 인터페이스다. Anthropic은 Claude 생성 텍스트를 판별하는 탐지 API를 출시할 계획이라고 밝혔다.
기술
- Claude
- SynthID-Text
- watermark detection API
- Pangram
활용 사례
- Claude 생성 텍스트의 AI 작성 여부 확인
- EU AI Act 투명성 요구사항 준수
- AI가 교정한 문서의 워터마크 탐지
- 코드 주석의 AI 생성 여부 확인
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 16.수집 2026. 08. 16.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
