cost-per-rollout
롤아웃당 비용
한 번의 모델 호출(롤아웃)에 들어가는 실제 비용을 의미하며 토큰 단가와 생성 길이, 재시도 횟수에 따라 산정된다. 입력을 토큰화하고 모델이 출력 토큰을 생성하는 과정에서 소비된 토큰 수와 단가를 곱해 계산하며 동일한 과제를 여러 번 시도할 때 총비용과 정답률을 결합해 비용 효율성을 판단하는 기초가 된다. 단가만 비교하면 오해가 생기고 작업 단위 비용 비교가 필요하다.
롤아웃당 비용
한 번의 모델 호출(롤아웃)에 들어가는 실제 비용을 의미하며 토큰 단가와 생성 길이, 재시도 횟수에 따라 산정된다. 입력을 토큰화하고 모델이 출력 토큰을 생성하는 과정에서 소비된 토큰 수와 단가를 곱해 계산하며 동일한 과제를 여러 번 시도할 때 총비용과 정답률을 결합해 비용 효율성을 판단하는 기초가 된다. 단가만 비교하면 오해가 생기고 작업 단위 비용 비교가 필요하다.
