LangChain 에이전트의 OpenAI에서 DeepSeek 마이그레이션 경험과 기술적 해결책

주요 논점

01중립분열

LangChain에서 DeepSeek 모델 사용 시 발생하는 비표준 필드 처리 및 호환성 문제는 커스텀 로직으로 해결 가능하다.

실용적 조언

OpenAI 호환 엔드포인트 사용 시 with_structured_output의 method를 function_calling으로 설정할 것
DeepSeek R1 사용 시 히스토리에 메시지를 저장하기 전 reasoning_content 필드를 제거하는 전처리기를 구현할 것

섹션별 상세

OpenAI의 with_structured_output strict mode는 타사 엔드포인트에서 호환성 문제가 발생할 수 있다. 작성자는 method="json_schema" 대신 method="function_calling"을 사용하여 스키마 거부 문제를 해결했다.

DeepSeek R1 모델의 reasoning_content 필드는 OpenAI 규격에 포함되지 않아, 히스토리에 포함될 경우 API 요청 시 400 에러를 유발한다.

작성자는 히스토리에 메시지를 저장하기 전 reasoning_content를 제거하는 커스텀 AIMessage post-processor를 구현하여 이 문제를 해결했다.

언급된 도구

LangChain중립

에이전트 프레임워크

DeepSeek R1중립

추론 모델

LangGraph중립

에이전트 오케스트레이션