token-level-cost-tracking
토큰 단위 비용 추적
LLM API 사용 시 입력과 출력에 사용된 토큰 수를 정밀하게 측정하여 실제 발생 비용을 계산하는 방식이다. 모델별 가격 정책이 다르기 때문에 성능 대비 경제성을 평가하는 벤치마크에서 효율성을 판단하는 중요한 근거가 된다.
중급
토큰 단위 비용 추적
LLM API 사용 시 입력과 출력에 사용된 토큰 수를 정밀하게 측정하여 실제 발생 비용을 계산하는 방식이다. 모델별 가격 정책이 다르기 때문에 성능 대비 경제성을 평가하는 벤치마크에서 효율성을 판단하는 중요한 근거가 된다.
