이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
이 글은 Unsloth와 LoRA 기반 Continued Pretraining으로 qwen 3 4B를 가상 도시 Awesomeville의 지하철 경로를 안내하는 여행 상담사로 바꾼 실험 기록이다. 에이전트가 만든 1만 개의 반복적이고 암기 중심인 데이터셋을 30개 범주 700개 항목으로 재설계하고, 역과 유적지를 규칙적인 내부 식별자로 표현해 노선과 환승 규칙을 학습시켰다. 합성 이름 매핑은 정확도를 24% 높였고, 최종 105개 평가 중 103개를 통과했지만 같은 노선에서 Central Station을 불필요하게 출력하는 문제가 남았다. 전체 역 순서 나열 능력도 충분히 학습되지 않아, 소형 모델의 도메인 적응에는 데이터 양보다 구조와 출력 규칙 설계가 중요하다는 결과를 남겼다.
섹션별 상세
이 글은 소비자용 하드웨어에서 작은 local LLM에 새로운 도메인을 가르칠 수 있는지 확인하기 위해 qwen 3 4B를 가상 도시 Awesomeville의 여행 상담사로 학습시킨 실험이다. Continued Pretraining (CPT)을 도메인 데이터에 적용하되, 전체 모델 가중치는 고정하고 LoRA 어댑터만 갱신하는 방식으로 메모리 부담을 줄였다. 40억 개 파라미터를 가진 모델에서 현재 설정으로 실제 학습 대상은 6,600만 개, 전체의 1.6%에 해당했다.
근거
- LoRA 설정에서 qwen 3 4B의 40억 개 파라미터 중 6,600만 개만 학습 대상으로 삼아 전체의 1.6%를 갱신했다. — Continued Pretraining 섹션의 LoRA 설명과 파라미터 비교 문단
초기 데이터셋은 에이전트가 생성한 1만 개 항목으로 커졌지만, 반복적인 문장과 특정 경로 암기에 지나치게 의존해 보지 못한 사례에서 성능이 떨어졌다. 이를 해결하기 위해 단일 노선 이동, 1회 환승, 2회 환승, 역사 유적지와 역의 연결을 단계적으로 추가하고, 전체 데이터로 먼저 학습한 뒤 더 작고 집중된 데이터로 후속 학습하는 여러 단계의 방식을 사용했다. 이 재설계는 단순한 경로 예시를 외우는 대신 노선 소속, 환승 조건, 유적지 해석 같은 규칙을 조합하도록 학습 구조를 바꾸는 데 목적이 있었다.
모델이 Blue, Green, Gold 노선을 구분하고 Central Station을 환승 지점으로 활용하도록 내부 지도를 규칙적인 합성 이름으로 바꿨다. 예를 들어 사람이 읽는 역 이름을 blue_station_one처럼 노선과 순서가 드러나는 식별자로 치환하고, 역사 유적지도 접근 역으로 먼저 변환한 뒤 역 사이의 경로를 계산하게 했다. 이 표현 변경만으로 평가 정확도가 24% 상승했으며, 특히 노선 간 환승 시나리오에서 개선 폭이 컸다.
근거
- 합성 역 이름을 내부 지도 표현으로 사용한 뒤 평가 정확도가 24% 상승했고, 개선 대부분은 노선 환승 시나리오에서 나왔다. — 합성 이름 매핑 표 다음의 eval performance 문단
최종 학습 코퍼스는 30개 범주에 걸친 700개 항목으로 축소됐고, 그중 약 30%는 역사 유적지와 지하철역의 연결을 고정하는 데 할당됐다. 데이터에는 동일 노선이면 환승 횟수를 0으로 두고 중간 역을 생략하는 규칙, 노선이 다르면 Central Station에서 한 번 환승하는 규칙, 여러 여정을 서로 독립적으로 처리한 뒤 상태를 초기화하는 규칙이 포함됐다. 105개 평가 사례 가운데 85개는 학습에서 직접 다루지 않은 사례였고, 최종 모델은 두 사례를 제외한 103개를 통과했다.
근거
- 최종 학습 코퍼스는 30개 범주에 걸친 700개 항목이며, 역사 유적지와 역의 연결 규칙에 약 30%가 할당됐다. — Complete Corpus 표와 역사 유적지 매핑 관련 문단
남은 두 실패 사례는 같은 노선으로 Central Station을 지나갈 때도 Central Station을 경로에 잘못 포함한 경우였다. 모델은 출발지와 목적지 사이의 전체 여정은 잘 매핑하지만, 이동 중 거치는 모든 역을 순서대로 나열하도록 충분히 학습되지는 않았으며 숫자 접미사의 순서 정보가 일부 보조 역할만 했다. 따라서 이 실험은 작은 모델에서도 구조화된 데이터와 내부 표현 설계로 도메인 일반화를 얻을 수 있음을 보였지만, 출력 형식과 경로 세부 순서까지 안정화하려면 추가 사례가 필요하다는 결론으로 이어졌다.
근거
- 최종 평가 105개 사례 중 103개를 통과했으며, 실패한 두 사례는 같은 노선 이동에 Central Station을 잘못 포함한 경우였다. — Overall Performance 섹션의 최종 평가 문단
용어 해설
- Continued Pretraining (CPT)
- — 기존 모델의 사전학습을 특정 분야 데이터로 이어서 수행하는 방식이다. 모델이 이미 익힌 일반 능력은 유지하면서 여행, 의료, 법률처럼 좁은 영역의 지식과 처리 패턴을 추가로 학습시키는 데 쓰인다.
- LoRA
- — 원래 모델의 가중치를 고정한 채 일부 층에 작은 학습용 어댑터를 붙여 미세 조정하는 기법이다. 전체 파라미터 대신 저순위 행렬의 일부만 갱신하므로 소비자용 하드웨어에서도 학습 부담을 줄일 수 있다.
- 도메인 특화 데이터(Domain-specific Data)
- — 특정 분야의 개념, 규칙, 관계를 담아 모델을 해당 분야에 맞게 학습시키는 데이터다. 이 글에서는 가상 도시의 지하철 노선, 역, 역사 유적지 연결 관계와 경로 규칙을 학습 자료로 구성했다.
- 홀드아웃 평가(Held-out Evaluation)
- — 학습에 직접 포함하지 않은 사례를 별도로 남겨 모델의 일반화 성능을 측정하는 평가 방식이다. 글의 테스트 105개 중 85개는 학습 중 직접 다루지 않은 경로 시나리오로 구성됐다.
- 합성 명명(Synthetic Naming)
- — 사람이 읽는 이름을 규칙적인 내부 식별자로 치환해 모델이 관계를 처리하기 쉽게 만드는 방법이다. blue_station_one처럼 노선과 순서를 이름에 넣어 소형 모델의 노선 판별과 순서 추론을 보조했다.
기술
- qwen 3 4B
- LoRA
- Unsloth
- Continued Pretraining (CPT)
활용 사례
- 가상 도시 여행 상담사
- 지하철 노선과 역사 유적지 기반 경로 추천
- 소형 local LLM의 도메인 특화
- 구조화된 규칙을 이용한 다중 여정 추론
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 21.수집 2026. 08. 21.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
