Claude Sonnet 5의 신규 기능과 토크나이저 변경

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

Anthropic이 발표한 Claude Sonnet 5는 Opus 4.8에 근접한 성능을 유지하면서도 플랫폼 기능과 도구 세트를 Sonnet 4.6과 공유하고 Adaptive Thinking을 기본으로 활성화한 모델로, API에서는 temperature·top_p·top_k 같은 샘플링 파라미터를 제거하고 1,000,000 토큰 컨텍스트와 128,000 토큰 출력 한도를 제공한다. 요금 체계는 Sonnet 4.6과 동일하게 표기되어 있으며 소개 할인이 8월 31일까지 적용되지만 새로운 토크나이저로 인해 동일한 입력에서 평균 약 30% 더 많은 토큰이 발생하여 실사용 비용이 상승하는 효과가 관찰되었다. 이 토큰 증분은 영어에서 약 1.42배, 스페인어에서 1.33배, 대규모 Python 코드에서 1.28배, 간체중국어에서는 거의 변화가 없다는 실측 결과로 뒷받침되며 따라서 긴 문서나 코드 기반 워크로드의 비용 산정과 토큰 관리 전략을 재검토할 필요가 있다.

섹션별 상세

Claude Sonnet 5가 출시되었고 Anthropic은 성능이 Opus 4.8에 근접하면서도 가격은 낮다고 밝혔다. 개발자 문서의 'what's new'에서는 모델의 성격과 제약을 세부적으로 기술하여 사용자가 기대할 수 있는 범위를 설정했다. 이 모델은 Sonnet 4.6과 동일한 도구와 플랫폼 기능을 제공하며 Adaptive Thinking이 기본 활성화된 상태로 동작한다. 이러한 설계는 기존 Sonnet 라인업과 호환되는 개발 경험을 유지하면서도 배포 정책과 비용 구조를 명확히 한다.

Sonnet 5는 특정 위험군, 특히 사이버 관련 작업에서 Mythos 5보다 현저히 낮은 능력을 가지며 시스템 카드에서 이 점을 근거로 미국 정부 규제로부터 배제된 경위를 설명하고 있다. 모델의 역량 제한은 보안 또는 악용 가능성을 줄이기 위해 적용된 안전 조치와 연결되어 있으며 그 결과로 Opus 4.7 및 Opus 4.8과 유사한 수준의 보호 메커니즘을 적용한다고 명시되어 있다. 이 능력 제한은 Sonnet 5를 더 넓은 고객에게 제공할 수 있게 하는 운영적 이유와 직접적으로 결부된다.

API 측면에서 Sonnet 5는 샘플링 관련 파라미터인 temperature, top_p, top_k를 더 이상 지원하지 않으며 최대 컨텍스트 윈도우는 1,000,000 토큰이고 출력 한도는 128,000 토큰으로 보고되었다. Adaptive Thinking은 기본적으로 활성화되어 있으며 필요할 경우 "thinking": {type: "disabled"}로 비활성화할 수 있다. 이 변경은 긴 문서나 대규모 컨텍스트를 다루는 애플리케이션이 API 호출 설계를 재검토해야 함을 의미하며 샘플링 제어가 불가능해지는 점은 클라이언트 측에서 결과 다양성 관리 전략을 바꿔야 함을 시사한다.

json

"thinking": {type: "disabled"}

Adaptive thinking 기능을 비활성화하기 위해 API 호출에 포함할 수 있는 JSON 형식의 설정 예시이다.

가장 실질적인 영향은 새로운 토크나이저로 인해 동일한 입력 텍스트가 Sonnet 4.6보다 대략 30% 더 많은 토큰을 생성한다는 점이다. 저자가 제공한 토큰 카운터 실험에서는 영어 문서에서 약 1.42배, 스페인어에서 1.33배, 대규모 Python 코드에서는 1.28배, 간체중국어에서는 거의 동일(약 1.01배)의 토큰 증분이 관찰되었다. 요금 체계 자체는 Sonnet 4.6과 같다고 표기되어 있으나 새로운 토크나이저로 인한 토큰 증가 때문에 실사용 비용이 상승하는 효과가 나타나며 소개 할인은 8월 31일까지 $2/$10로 적용된다.

용어 해설

토크나이저(Tokenizer): — 텍스트를 모델이 처리할 수 있는 단위인 토큰으로 분할하는 구성요소로, 동일한 입력에서 토큰화 방식이 달라지면 발생하는 토큰 수와 비용이 크게 달라지므로 모델 API 비용과 지연에 직접적인 영향을 미친다.
컨텍스트 윈도우(Context Window): — 모델이 한 번에 참조할 수 있는 입력 토큰의 최대 길이를 의미하며, Sonnet 5의 1,000,000 토큰과 같이 큰 윈도우는 긴 문서나 대화 상태를 유지하는 사용 사례에서 토큰 관리와 비용 산정 방식을 변화시킨다.
샘플링 파라미터(Sampling Parameters): — 생성 모델의 출력 확률 분포를 제어하는 파라미터로 temperature, top_p, top_k 등이 있으며 이들이 제거되면 클라이언트가 출력의 무작위성이나 다양성을 직접 조정할 수 있는 방법이 제한된다.
Adaptive Thinking: — 모델 내부에서 동적 사고 과정을 활성화하여 연속적 사고 흐름을 생성하는 기능으로 Sonnet 5에서는 기본 활성화되어 있고 필요 시 "thinking": {type: "disabled"}로 비활성화할 수 있다.

기술

Claude Sonnet 5
Claude Sonnet 4.6
Opus 4.8
Opus 4.7
Mythos 5

활용 사례

긴 문서와 대화 상태를 유지하는 애플리케이션에서의 대규모 컨텍스트 처리
코드베이스나 소스 파일과 같은 대용량 텍스트의 토큰 비용 비교
토큰 단위 비용이 중요한 비용 산정 및 예산 관리 시나리오