중국 LLM의 공격적 가격 경쟁과 Hy3·DeepSeek·Kimi K3 비교

작성자는 차트를 직접 만들어 가격 경쟁의 심화에 놀라움과 긍정적 반응을 보였으며 'Hard to complain about that'라는 표현으로 저비용 모델의 등장에 환영 의사를 표시했다. 게시물 본문에는 특정 댓글이나 추가 토론 내용이 포함되어 있지 않아 커뮤니티의 전체 반응을 동태적으로 확인하기는 불가능하다. 따라서 작성자의 관점은 명확히 저비용 모델 환영 쪽으로 기울어져 있으나, 실제 사용자 경험이나 성능 비교에 대한 추가 정보는 제시되지 않았다.

• API 비용 구조를 비교할 때는 입력 토큰·출력 토큰·캐시 히트 단가와 지원되는 컨텍스트 길이를 모두 고려해야 한다. 반복적인 프롬프트나 긴 대화 유지가 필요한 경우 캐시 히트 단가와 컨텍스트 길이가 총비용에 큰 영향을 미치므로 해당 항목을 우선 검토하라. 고가 모델은 출력 단가가 높게 책정된 대신 특정 품질 보증이나 추가 기능을 제공할 가능성이 있으므로 파일럿 테스트로 성능 대 비용을 측정한 뒤 장기 사용을 결정하라.

Context Window

— Context Window는 모델이 한 번에 처리할 수 있는 토큰의 최대 수를 뜻한다. 이 값이 크면 긴 대화 기록이나 문서를 한 번에 입력해 문맥을 유지할 수 있으며, API 요금 계산에서 대량 토큰 처리 시 비용과 지연에 직접적인 영향을 미친다. 표의 '1M' 또는 '256K' 표기는 해당 모델이 지원하는 최대 컨텍스트 길이 또는 컨텍스트 관련 제공 항목을 요약한 것이다.

Cache Hit

— Cache Hit는 이전에 계산된 입력 토큰의 결과를 재사용함으로써 동일 입력에 대해 계산을 생략할 수 있는 상태를 의미한다. 캐시가 적중하면 실제로 과금되는 입력 토큰 수와 지연이 크게 줄어 비용 효율성이 개선되며, 표에 별도 열로 기재된 캐시 히트 가격은 캐시된 입력 토큰에 대한 단가를 나타낸다. 캐시 전략은 반복적 프롬프트나 긴 컨텍스트 유지 환경에서 비용 절감 효과가 크다.

API Pricing

— API Pricing은 토큰 단위(예: 1M 토큰당 USD)로 서비스 제공자가 청구하는 요금 구조를 말한다. 입력 토큰과 출력 토큰을 별도 요율로 책정하는 경우가 많아 실제 사용 비용은 요청 패턴과 응답 길이에 따라 달라지며, 표는 입력·출력·캐시 적중별 단가를 비교해 비용 구조 차이를 수치로 드러낸다. 지역·계약 형태에 따라 공개 리스트 가격과 실사용 비용 사이에 차이가 생길 수 있다.

Open Weights

— Open Weights는 모델의 가중치 파일이 공개되어 사용자가 직접 다운로드해 로컬에서 추론하거나 재학습할 수 있음을 의미한다. 가중치 공개 여부는 자체 배포, 비용 구조, 맞춤형 튜닝 가능성에 큰 영향을 미치며 표의 '체크 표시'는 해당 모델의 가중치 공개 여부 또는 공개 가능성을 간단히 표시한 것으로 보인다. 오픈 가중치 모델은 호스팅 비용을 줄이고 커스터마이즈를 용이하게 한다.