이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Activation Steering은 추론 중간 상태에 고정 벡터를 더해 모델의 행동을 조절하지만, 모델 상태와 무관하게 같은 압력을 가해 반복 출력과 추론 붕괴를 일으킬 수 있습니다. LaTense는 hidden state와 reasoning vector의 방향 차이를 나타내는 1 - cos(h, v)와 크기 비율 ||h||/||v||를 함께 사용해 토큰마다 개입 강도를 바꿉니다. Llama 3.1 8B Instruct, Gemma 2 9B IT, Qwen-2.5-7B-Instruct의 StrategyQA·MATH-500·TriviaQA 평가에서 반복률을 모든 아키텍처에 걸쳐 0.00%로 낮췄고, 일부 과제에서는 Static CAA와 Greedy Base를 웃돌았습니다. 단일 경로 추론으로 Self-Consistency(k=5)보다 생성 토큰 계산량을 4.6배 줄였지만, steering 성능의 상한은 과제 유형에 따라 달라졌습니다.
섹션별 상세
고정 steering vector를 추론 단계마다 h' = h + αv로 더하는 Static Activation Steering은 모델의 현재 표현 상태를 고려하지 않습니다. 이미 reasoning vector와 잘 맞는 hidden state에도 같은 압력을 가하기 때문에 Gemma 2와 Qwen 2.5 같은 고도로 최적화된 dense architecture의 사실·구문 회로를 덮어쓸 수 있습니다. 표준 CAA에서 반복률이 최대 38.07%까지 상승했다는 결과는 개입 강도 자체보다 상태에 맞는 조절이 중요하다는 점을 뒷받침합니다.
LaTense는 각 토큰의 hidden state h와 reasoning vector v를 비교해 개입량을 계산합니다. 먼저 1 - cos(h, v)로 방향이 이미 맞으면 steering 압력을 0에 가깝게 줄이고, 방향이 어긋날수록 복원 압력을 키운 뒤 ||h||/||v||를 곱해 hidden state의 표현 규모에 맞춥니다. 최종적으로 h' = h + α · (1 - cos(h, v)) · (||h||/||v||) · v를 적용해 잘 유지해야 할 회로에는 작은 변화를 주고 이탈한 추론 궤적에는 더 큰 보정을 가합니다.
세 모델 계열과 세 과제의 평가에서 LaTense는 반복률을 0.00%로 낮췄습니다. Llama 3.1 8B Instruct의 StrategyQA 정확도는 Greedy Base 71.40%, Static CAA 71.75%에서 LaTense 73.65%로 높아졌고, MATH-500에서는 44.20%를 기록했습니다. Gemma 2 9B IT의 StrategyQA에서는 Static CAA와 같은 65.60%였으며, Qwen-2.5-7B-Instruct의 MATH-500에서는 Greedy Base와 같은 80.80%여서 반복 억제가 모든 과제의 정확도 상승으로 이어지지는 않았습니다.
LaTense는 여러 후보 추론 경로를 생성하는 Self-Consistency(k=5)와 달리 단일 forward pass(k=1)에서 작동합니다. 기하학적 gating의 추가 비용은 1.2% 미만이며, 전체 생성 토큰 계산량은 sampling baseline보다 4.6배 낮게 측정됐습니다. 글의 효율성 비교에서는 LaTense가 StrategyQA 정확도 74.2%를 약 120 tokens/sample 수준에서 기록한 반면 Greedy CoT는 66.0%, Self-Consistency(k=5)는 64.4%로 표시되어 단일 경로 기반의 계산 효율을 부각합니다.
용어 해설
- Activation Steering
- — LLM의 추론 중간 상태에 특정 방향의 벡터를 더해 모델의 행동이나 출력 경향을 조절하는 학습 없는 제어 방식입니다. LaTense는 이 벡터의 영향력을 토큰별 hidden state와 reasoning vector의 방향 및 크기 관계에 따라 조정합니다.
- 잠재 표현 붕괴(Latent Collapse)
- — 모델의 내부 표현이 특정한 퇴화 상태로 몰리면서 반복 출력이나 추론 실패가 발생하는 현상입니다. 이 글에서는 정적인 steering vector가 생성 궤적을 자기강화적 반복 영역에 가둘 때 발생하며, LaTense가 동적 개입으로 이를 완화합니다.
- 코사인 패널티(Cosine Penalty)
- — hidden state와 steering vector의 방향이 얼마나 다른지 측정해 개입 강도를 조절하는 항입니다. LaTense는 1 - cos(h, v)를 사용해 두 벡터가 이미 같은 방향이면 압력을 줄이고, 방향이 크게 어긋나면 복원 압력을 키웁니다.
- 노름 스케일링(Norm Scaling)
- — 벡터의 크기 비율을 이용해 steering 개입이 모델의 현재 표현 규모에서 지나치게 벗어나지 않도록 조절하는 방식입니다. LaTense는 ||h||/||v||를 곱해 hidden state의 크기에 비례하는 개입을 만들고 분포 밖의 이동을 줄입니다.
- Self-Consistency
- — 같은 문제에 대해 여러 추론 경로를 생성한 뒤 다수결로 답을 선택하는 test-time compute 방식입니다. 이 글의 k=5 기준은 다섯 개의 완전한 후보 경로를 필요로 하지만, LaTense는 단일 forward pass인 k=1로 비교 가능한 정확도를 추구합니다.
기술
- LaTense
- Llama 3.1 8B Instruct
- Gemma 2 9B IT
- Qwen-2.5-7B-Instruct
- StrategyQA
- MATH-500
- TriviaQA
활용 사례
- 학습 없이 LLM의 추론 행동을 조절하는 Activation Steering
- 반복 출력과 reasoning collapse를 줄이는 inference-time intervention
- 다중 샘플링 없이 test-time compute를 절감하는 단일 경로 추론
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 09. 09.수집 2026. 09. 09.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
