Qwen 3.5 27B는 진짜다 - 첫 테스트에서 GPT-5를 압도하다

실용적 조언

로컬 LLM으로 GUI 앱을 개발할 때 문제가 발생하면 스크린샷을 찍어 비전 기능을 통해 피드백을 주면 해결이 빠르다.
LM-Studio 설정에서 Context Length와 GPU Offload를 하드웨어 사양에 맞춰 최적화하면 최대 31 tok/sec 이상의 속도를 얻을 수 있다.

섹션별 상세

01

Qwen 3.5 27B 모델은 GPT-5가 3번의 시도에도 GUI를 로드하지 못한 것과 대조적으로, 첫 시도부터 작동하는 GUI를 생성했다. 사용자는 복잡한 폴더 구조(Queue, Converted, Processed)와 .bat 실행 파일 생성, 가상 환경(venv) 설정 등 까다로운 요구사항을 Qwen이 정확히 이해하고 구현했음을 확인했다.

Qwen 3.5 27B 모델의 테스트 결과 요약과 속도 측정값이 포함된 화면이다. — ScreenshotGPT-5와의 비교 결과(실패 vs 성공)와 31.26 tok/sec라는 구체적인 성능 지표를 시각적으로 확인시켜 준다. 게시물의 핵심 주장인 'Qwen이 GPT-5를 압도했다'는 내용을 뒷받침하는 요약 자료이다.

02

추론 속도 면에서 놀라운 결과가 나타났다. RTX 3090 Ti와 96GB RAM 환경에서 262K의 최대 컨텍스트를 사용함에도 불구하고 초당 31.26 토큰의 속도를 기록했다. 이는 Unsloth와 LM-Studio의 최적화 설정을 적용한 결과로, 로컬 LLM의 실용성이 상용 모델에 근접했음을 시사한다.

LM-Studio에서 높은 추론 속도를 달성하기 위해 설정한 세부 파라미터 화면이다. — Screenshot컨텍스트 길이(262144), GPU 오프로드(64), KV 캐시 양자화(Q4_0) 등 성능 최적화에 핵심적인 설정값들을 보여준다. 작성자가 언급한 초당 31토큰 이상의 속도를 재현하기 위한 기술적 근거를 제공한다.

03

Qwen 3.5의 시각 지능(Vision)이 디버깅에 큰 역할을 했다. 사용자가 생성된 GUI의 스크린샷을 입력으로 제공하자, 모델은 누락된 버튼과 테마 불일치 문제를 스스로 파악하여 다음 코드 생성 시 이를 수정했다. 이는 텍스트 프롬프트만으로 설명하기 어려운 UI 문제를 해결하는 데 시각적 피드백이 매우 효과적임을 보여준다.

Qwen 3.5가 생성된 GUI 스크린샷을 분석하여 문제점을 나열한 사고 과정 캡처이다. — Screenshot모델이 스크린샷을 통해 테마 불일치(Theme Mismatch), 누락된 컨트롤(Missing Controls), 레이아웃 문제 등을 정확히 짚어내는 과정을 보여준다. 이는 텍스트 설명 없이도 시각 정보만으로 UI 디버깅이 가능함을 입증하는 근거로 사용됐다.

04

더 큰 모델인 Qwen 3.5 35B-A3B 버전은 초당 90 토큰이라는 압도적인 속도를 보여주었으나, 실제 앱 구현 결과물에서는 필수 버튼이 누락되는 등 27B 모델보다 낮은 정확도를 보였다. 이는 모델의 파라미터 크기나 속도가 반드시 코딩의 정확도와 직결되지 않을 수 있음을 시사한다.

용어 해설

양자화(Quantization): — 모델의 가중치를 낮은 비트(예: 4비트)로 표현하여 메모리 사용량을 줄이고 추론 속도를 높이는 기법이다. 로컬 환경에서 대규모 모델을 구동할 때 필수적이며, 성능 손실을 최소화하면서 효율성을 극대화한다.
컨텍스트 윈도우(Context Window): — 모델이 한 번에 처리하고 기억할 수 있는 토큰의 최대 범위를 의미한다. 이 값이 클수록 긴 문서나 복잡한 코드 전체를 한 번에 입력으로 넣어 일관성 있는 결과물을 얻을 수 있다.
가상 환경(venv): — 파이썬 프로젝트별로 독립된 라이브러리 설치 환경을 격리하여 구축하는 도구이다. 시스템 전역 설정에 영향을 주지 않고 프로젝트에 필요한 특정 버전의 의존성만 설치하여 관리할 수 있게 한다.
초당 토큰 수(Tokens per Second (tok/sec)): — LLM이 텍스트를 생성하는 속도를 측정하는 단위이다. 수치가 높을수록 응답 속도가 빠르며, 로컬 환경에서는 하드웨어 성능과 최적화 수준을 판단하는 핵심 지표로 활용된다.

언급된 도구

LM-Studio추천

로컬 LLM 추론 및 서빙 엔진

Unsloth추천

모델 최적화 및 경량화 라이브러리

Qwen 3.5 27B추천

메인 테스트 대상 언어 모델