TL;DR

Mellea는 타입 주석과 Pydantic 검증을 통해 LLM 호출의 출력을 구조화하고 요구조건 검증과 자동 재시도 및 샘플링 전략으로 실패를 탐지·복구하는 Python 라이브러리이다. @generative 데코레이터가 함수의 타입과 docstring을 프롬프트와 스키마로 변환해 생성 결과를 항상 정형화된 객체로 반환하며 거부 샘플링과 다수결 같은 전략으로 일관성을 높인다. 다중 백엔드 지원과 mify 및 MCP 호환성으로 기존 코드베이스와 오케스트레이션에 손쉽게 통합할 수 있으며 IBM Research에서 시작된 점이 초기 신뢰성의 근거가 된다.

핵심 포인트

• 함수 타입을 곧바로 생성 스키마로 사용한다. 기존 프롬프트 중심 워크플로는 별도 파싱과 후처리가 필요하지만 Mellea는 타입 힌트와 Pydantic으로 검증을 내장해 파이프라인에서의 오류 발생을 코드 수준에서 방지한다. 이 접근은 테스트 작성과 정형화된 출력 보장을 단순화한다.
• 요구조건-검증-수리 루프를 내장하고 있다. 단순한 재시도 전략이 아니라 자연어 요구조건을 바탕으로 검증을 수행하고 실패 시 재생성 또는 수리 로직으로 결과를 보정하므로 단회성 오류를 체계적으로 감소시킨다. 이 과정은 안정성 향상에 직접적으로 기여한다.
• 백엔드 및 통합 호환성을 우선한다. Ollama, OpenAI, HuggingFace, WatsonX, LiteLLM, Bedrock 같은 여러 추론 환경을 지원하며 mify와 MCP 호환성으로 기존 코드와 에이전트 인프라에 손쉽게 통합된다. 이로 인해 도입 장벽을 낮추고 다양한 런타임에서 재사용 가능성이 높다.
• 타입 기반 LLM 호출로 변환한다. @generative 데코레이터가 함수의 타입 힌트와 docstring을 결합해 프롬프트와 출력 스키마를 자동으로 구성한다. 이 과정에서 Pydantic 검증이 적용되어 반환값이 선언된 타입을 만족하지 않으면 오류 검출과 후속 처리로 이어진다.