지능 대비 출력 토큰 비율 (intelligence-output-tokens-ratio) 용어 설명 | AI Trends
intelligence-output-tokens-ratio
지능 대비 출력 토큰 비율
고급
모델이 발휘하는 추론 능력(지능)의 수준과 그 결과를 출력하기 위해 소모되는 토큰 수 사이의 상관관계를 나타내는 효율성 지표이다. 동일한 지능을 제공하면서 더 적은 토큰을 사용하거나, 같은 비용으로 더 높은 지능을 구현하는 효율성을 측정하며, 상용 서비스의 운영 비용 최적화에 중요한 역할을 한다.