Salesforce의 Claude 비용과 모델 선택 전환

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

Salesforce는 Claude를 연구개발 과정에 약 6개월간 광범위하게 투입하면서 토큰 비용이 늘었고, 그 결과 연간 영업이익률 전망을 20.1%로 유지했다고 밝혔다. Claude 도입의 목적은 제품 로드맵을 앞당기고 연구개발팀이 시스템의 한계를 시험하는 데 있었지만, 이제는 작업마다 최신 모델을 쓰지 않는 방식으로 전환하고 있다. 회사는 소프트웨어 개발처럼 고성능 모델이 필요한 일부 작업과 달리 대다수 작업에는 2세대 또는 3세대 모델도 충분하다고 보고 OpenAI, Cursor, Claude, Grok의 비용 구조를 비교하고 있다. Salesforce의 사례는 AI 도입 확대가 성능 향상뿐 아니라 모델별 비용 관리와 공급업체 조합 문제로 이어지고 있음을 보여준다.

실용적 조언

모든 개발 작업에 최신 LLM을 배정하기보다 작업별 정확도와 지연시간 요구를 먼저 정한 뒤 2세대 또는 3세대 모델을 기본값으로 비교하는 방식이 적합합니다.
OpenAI, Cursor, Claude, Grok처럼 여러 공급업체의 비용 구조를 같은 작업과 사용량 기준으로 측정하면 특정 모델에 사용량이 집중되며 발생하는 토큰 비용을 줄일 수 있습니다.

섹션별 상세

Salesforce는 Anthropic과 새 파트너십을 맺고 약 6개월 전부터 Claude를 연구개발 과정에 투입했으며, 제품 로드맵을 앞당기고 연구개발팀이 무엇을 깨뜨릴 수 있는지 시험하는 데 사용했다. Mike Spencer 부 CFO는 이 과정에서 발생한 Claude 토큰 지출을 회사가 부담하면서 연간 영업이익률 전망을 높이지 못했다고 밝혔다. 회계 기준상 2분기 영업이익률은 20.5%였고 연간 전망은 20.1%로 제시됐다.

Salesforce는 이제 모든 작업에 최신 모델을 적용하는 대신 작업에 맞는 모델을 처방하는 방식으로 AI 지출을 조정하고 있다. 소프트웨어 개발이나 전체 기술 스택 구축처럼 최신 모델이 필요한 작업도 있지만, 회사는 대다수 작업에서 2세대 또는 3세대 모델로 충분하다고 판단한다. 입력 작업의 난이도에 따라 모델을 나누면 고성능 모델의 토큰 사용량을 줄이면서 필요한 개발 기능은 유지할 수 있다는 접근이다.

회사는 내부적으로 OpenAI, Cursor, Claude를 함께 사용하고 있으며 X의 Grok도 시험하기 시작했다. Spencer는 각 모델 생성기가 서로 다른 비용 구조를 가진다고 설명했고, Salesforce가 여러 모델 공급업체를 비교하는 고객사의 상황을 대표한다고 평가했다. 모델 하나에 사용량을 몰아주는 대신 작업별 성능과 가격을 비교하는 다중 공급업체 구성이 비용 관리의 핵심으로 자리 잡고 있다.

Salesforce의 움직임은 AI 사용량 확대가 곧바로 수익성 개선으로 이어지지 않는다는 점을 드러낸다. Marc Benioff CEO는 Salesforce가 2026년에 Anthropic에 3억 달러를 지출할 것으로 예상한 바 있고, Cockroach Labs도 비용 최적화를 위해 내부에서 오픈소스 AI 모델 사용을 늘리고 있다. Gartner는 일부 지역에서 코딩 에이전트 비용이 개발자 급여를 넘어설 수 있다고 전망해, 자동화 규모와 토큰 비용을 함께 관리해야 하는 이유를 뒷받침한다.

용어 해설

토큰 사용 비용(Token Spend): — LLM에 입력하고 출력을 생성하는 토큰 수에 따라 발생하는 사용료입니다. Salesforce는 Claude를 연구개발 과정에 광범위하게 투입하면서 비용이 늘었고, 이 지출이 영업이익률 전망을 높이지 못한 요인으로 작용했다고 밝혔습니다.
작업별 처방 모델 선택(Prescription Model Choice): — 모든 작업에 가장 최신 모델을 일괄 적용하지 않고, 작업의 난이도와 요구 성능에 맞춰 적절한 세대와 공급업체의 모델을 고르는 방식입니다. 모델별 비용과 성능 차이를 함께 고려해 AI 지출을 조정합니다.
토큰맥싱(Tokenmaxxing): — AI 시스템에 토큰을 과도하게 사용하면서 비용이 급증하는 현상을 가리키는 표현입니다. 기사에서는 기업이 최신 모델과 많은 토큰 사용을 무조건 확대하기보다 오픈소스 모델과 작업별 모델 선택으로 지출을 줄이려는 흐름과 연결됩니다.
코딩 에이전트(Coding Agents): — 소프트웨어 개발 작업을 수행하도록 설계된 AI 시스템입니다. Gartner는 일부 지역에서 코딩 에이전트 비용이 개발자 급여를 넘어설 가능성을 제기하며, 개발 자동화가 인건비뿐 아니라 모델 사용료도 발생시키는 구조임을 지적했습니다.
대규모 언어 모델(Large Language Model): — 텍스트를 입력받아 자연어 또는 코드 형태의 결과를 생성하는 AI 모델입니다. 이 기사에서는 Claude, OpenAI의 모델, Cursor, Grok처럼 서로 다른 공급업체와 제품의 모델을 소프트웨어 개발과 기술 스택 구축에 배치하는 대상으로 등장합니다.

언급된 도구

Claude중립

Salesforce가 연구개발 과정과 고객용 AI 제품 구축에 사용한 LLM

OpenAI중립

Salesforce가 내부에서 사용하는 모델 생성기

Cursor중립

Salesforce가 내부에서 사용하는 AI 개발 도구

Grok중립

Salesforce가 실험을 시작한 모델 생성기