Qwen 3.5 모델의 도구 호출 오류 해결을 위한 시스템 프롬프트 팁

실용적 조언

Qwen 3.5 모델 사용 시 도구 호출이 작동하지 않는다면 시스템 프롬프트에 'ALWAYS THINK WHAT WILL YOU DO' 문구를 추가하여 사고 단계를 강제하십시오.

섹션별 상세

Qwen 3.5 모델에서 도구 호출(tool_call)이 실행되지 않고 생각(thought) 블록 내부에 머무르는 현상이 발생했다. 모델이 이전 문맥을 바탕으로 도구 호출이 명확하다고 판단할 때 사고 과정을 건너뛰고 즉시 호출을 시도하면서 발생하는 문제이다. Qwen 3.5의 강제 사고 구조와 충돌하여 호출 코드가 텍스트 블록 안에 갇히게 된다. 이로 인해 외부 시스템이 도구 호출을 인식하지 못하는 결과가 초래된다.

해결책으로 도구 호출 전 반드시 사고 과정을 거치도록 강제하는 시스템 프롬프트가 효과적이다. "YOU MUST THINK EVERYTIME BEFORE YOU CALL THE TOOLS"와 같은 문구를 통해 모델이 직접 실행 대신 계획 단계를 거치게 유도한다. 작성자는 Qwen 3.5 35B A3B 및 27B 모델 환경에서 이 프롬프트 적용 후 문제가 해결됨을 확인했다. 명시적인 사고 단계가 도구 호출의 구문적 위치를 올바르게 잡아주는 역할을 수행한다.

text

YOU MUST THINK EVERYTIME BEFORE YOU CALL THE TOOLS. ALWAYS THINK WHAT WILL YOU DO EVEN IF IT IS CLEAR THAT YOU THINK YOU CAN EXECUTE DIRECTLY

도구 호출 전 사고 과정을 강제하여 블록 갇힘 현상을 방지하는 시스템 프롬프트

용어 해설

도구 호출(Tool Call): — LLM이 외부 API나 함수를 실행하기 위해 특정 형식의 명령어를 생성하는 기능이다. 모델이 스스로 해결할 수 없는 계산이나 데이터 조회를 외부 도구에 요청할 때 사용하며, 정확한 구문 형식이 실행 여부를 결정한다.
생각 블록(Thought Block): — 모델이 최종 답변을 내놓기 전 내부적인 추론이나 사고 과정을 기록하는 별도의 텍스트 영역이다. 주로 <thought> 태그 등으로 구분되며, 이 블록 안에 실행 코드가 들어가면 시스템이 이를 명령어가 아닌 일반 텍스트로 오인할 수 있다.
시스템 프롬프트(System Prompt): — 사용자 질문 이전에 모델에게 부여하는 근본적인 행동 지침이나 페르소나 설정값이다. 모델의 출력 형식, 제약 사항, 사고 방식 등을 규정하여 전체 대화의 일관성과 안전성을 제어하는 역할을 한다.

언급된 도구

Qwen 3.5추천

LLM 모델