constrained-generation
출력물의 길이, 특정 단어 포함 여부, 형식 등 사용자가 설정한 엄격한 규칙을 지키며 텍스트를 생성하는 기술이다. 일반적인 LLM이 가장 어려워하는 분야 중 하나이다.
비용은 80% 절감 성능은 o1급 MIT가 공개한 AI 협업의 마법