fastapi
파이썬 기반의 현대적이고 빠른 웹 프레임워크로 자동 API 문서화 기능을 제공한다. 비동기 프로그래밍을 지원하여 높은 성능을 내며 LLM 서비스의 백엔드로 자주 활용된다.
FastAPI로 5분 만에 만드는 나만의 LLM API 서버
학습한 모델, 어떻게 쓰나요? FastAPI로 10분 만에 API 서버 구축하기