이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
작성자는 같은 추론 조건에서 Qwen 3.8 27B의 Q4_K_M과 Imatrix MTP Q5_K_M을 자기참조 글자 수 퍼즐로 비교했고, 두 모델 모두 정답 문장을 출력했습니다. Model A는 i가 숫자 단어에 최대 한 번 나온다는 상한으로 y의 후보를 네 개로 줄여 약 1,300토큰 만에 핵심 답에 도달했습니다. Model B는 자기 기여분을 뺀 잔여량 기반 고정점 가지치기로 더 엄밀하게 후보를 제거했지만, 초기 값 배정 오류와 반복 계산 때문에 약 2.5배 많은 토큰을 사용했습니다. 글의 결론은 이 퍼즐에서는 Model A가 더 효율적이지만, 탐색 공간의 정당화는 Model B가 더 철저했다는 것입니다.
섹션별 상세
작성자는 Qwen 3.8 27B의 Q4_K_M 모델과 Imatrix MTP Q5_K_M 모델을 같은 load와 inference 조건에서 한 번씩 실행하고, 이전 Qwen 3.6 모델들이 제대로 풀지 못한 자기참조 글자 수 퍼즐을 과제로 삼았습니다. 두 모델 모두 기본 글자 수를 계산한 뒤 최종 정답인 "This sentence contains three a's, six i's, eight n's, and nine s's."를 출력했습니다. 다만 실행 횟수가 모델별 한 번뿐이므로, 이 결과는 재현성 있는 일반 벤치마크보다 특정 퍼즐에서의 추론 경로 비교에 가깝습니다.
찬성
Model A는 먼저 문장에 이미 들어 있는 글자 수를 계산하고, 숫자 단어에 a가 없다는 조건에서 x를 three로 고정했습니다. 이어 0부터 20까지의 숫자 단어에 i가 두 번 이상 나오지 않는다는 상한을 적용해 y를 three, four, five, six 네 후보로 줄인 다음 네 경우만 순서대로 검사했습니다. 이 구조 덕분에 base counts 이후 약 1,300토큰 만에 세 개의 미지수를 확정했고, 전체 문장에도 Model B보다 적은 토큰으로 도달했습니다.
중립
Model B는 각 방정식에서 자기 숫자 단어가 기여하는 글자 수를 분리하는 고정점 재배열을 사용했습니다. 특히 z에 대해 v(z) − n_z = 6 + n_y + n_w 형태로 바꾸고, 후보별로 필요한 total_n을 계산한 뒤 다른 두 단어가 제공할 수 있는 최대치와 비교해 후보를 제거했습니다. 이 잔여량 기반 가지치기는 두 실행에서 가장 날카로운 단일 아이디어였지만, W와 Z와 Y에 대한 제약을 여러 번 다시 만들면서 최종 답까지 약 5,500토큰을 사용했습니다.
중립
두 모델의 계산 결과 자체는 같았지만 오류 처리 방식은 달랐습니다. Model B는 처음에 five와 six 같은 숫자 단어의 길이를 값으로 잘못 배정했다가 "Oops I misassigned! Need numeric values"라고 바로잡고 표를 다시 작성했습니다. Model A는 sentence의 n 개수를 세는 과정에서 잠시 물음표를 붙였지만 이후 확인만 했으며, 수정이 필요한 계산 오류는 남기지 않았습니다.
중립
작성자의 최종 평가는 전체 실행에서는 Model A가 우세하다는 것입니다. Model A는 약 2,200토큰으로 검증까지 끝낸 반면 Model B는 약 5,500토큰을 사용했고, Model B의 반복적인 제약 재도출과 검증 패스가 비용을 늘렸습니다. 반대로 Model B는 million과 billion처럼 i가 두 번 나올 수 있는 단어가 탐색 범위에 들어오는지 별도로 검토해 검색 공간의 정당화는 더 엄밀하게 했으며, Model A의 i 상한은 실제 정답 범위에서는 맞았지만 안전성 검증 없이 적용됐습니다.
용어 해설
- 자기참조 퍼즐(Self-Referential Puzzle)
- — 문장 자체에 포함된 글자나 단어의 개수를 세어 문장 내용이 참이 되도록 만드는 문제입니다. 추가한 숫자 단어와 apostrophe-s 형태까지 다시 계산해야 하므로, 답이 조건을 스스로 만족하는 고정점이 되어야 합니다.
- 최대 개수 상한(Max-Count Bound)
- — 후보 단어 하나가 특정 글자를 포함할 수 있는 최대 횟수를 이용해 가능한 값의 범위를 줄이는 방법입니다. Model A는 0부터 20까지의 숫자 단어에 i가 최대 한 번만 나온다는 점을 이용해 y의 후보를 세 개부터 여섯 개로 제한했습니다.
- 고정점 식 재배열(Fixed-Point Rearrangement)
- — 자기 자신이 다시 계산에 들어가는 항을 방정식의 한쪽으로 분리해 후보별로 필요한 잔여 개수를 구하는 방식입니다. Model B는 숫자 단어의 n 기여분을 제외한 뒤 다른 두 단어에서 충당할 수 있는지 판별해 후보를 제거했습니다.
- 양자화(Quantization)
- — 모델 가중치를 더 낮은 정밀도의 표현으로 바꿔 파일 크기와 메모리 사용량을 줄이는 방법입니다. 이 글은 Q4_K_M 17.7GB와 Q5_K_M 20.3GB 형식을 같은 추론 조건에서 비교하지만, 성능 차이를 양자화 형식 하나의 효과로 일반화하지는 않습니다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 19.수집 2026. 08. 19.출처 타입 REDDIT
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
