본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
추론 백엔드 (inference-backend) 용어 설명 | AI Trends
inference-backend
추론 백엔드
중급
LLM 모델을 실제로 로드하고 실행하여 텍스트 생성 등의 작업을 수행하는 엔진이나 서버 소프트웨어를 의미한다.
비슷한 개념
llm-backbone
web-llm
llm-agent
backbone-model
inference-platform
reasoning-engine
serving-runtime
inference-system
← 용어 사전 전체 보기