API 비용을 60% 절감하는 원시인 프롬프트(Caveman Prompt) 기법

비용 절감 효과에 대해 긍정적인 반응이며, 실무 적용 가능성에 주목했다.

• 시스템 프롬프트에 'No politeness' 규칙을 추가하여 무의미한 서두를 제거하라
• 화살표나 기호를 사용하여 텍스트 길이를 압축하라

API 비용(API Cost)

— LLM 서비스 제공업체가 API 호출 시 사용하는 토큰 수에 따라 부과하는 요금이다. 입력과 출력 토큰 모두 비용이 발생하며, 특히 출력 토큰을 줄이는 것이 전체 운영 비용 절감에 직결된다.

토큰 최적화(Token Optimization)

— LLM이 텍스트를 처리하는 기본 단위인 토큰의 개수를 최소화하여 효율성을 높이는 과정이다. 불필요한 단어를 제거하고 의미가 응축된 표현을 사용하여 처리 속도를 높이고 비용을 낮춘다.

불용어(Filler Words)

— 문장에서 문법적 구조를 맞추기 위해 사용되지만 실질적인 정보 전달 가치는 낮은 단어들이다. 'the', 'a', 'is'와 같은 관사나 조동사 등을 제거함으로써 데이터 밀도를 극대화할 수 있다.