Learn-by-Wire Training Control Governance: 스트레스 하에서의 안정성과 효율성을 위한 경계된 자율 학습 거버넌스

AdamW 위에 작동하는 bounded autonomous training-control 거버넌스 계층 LBW-Guard가 도입되었다. 런타임에서 instability를 감지-해석하고 bounded control을 통해 optimizer 실행을 제어함으로써 스트레스 조건에서 학습 가능성과 compute 효율성을 높이고, 최종 perplexity를 개선하며 엔드투엔드 시간을 단축한다. 7B 스케일에서 final perplexity가 13.2086에서 10.7353으로 감소하고 E2E 시간이 392.54초에서 357.02초로 단축된 사례가 있다.

단락1: 안정성 문제는 단순히 optimizer의 선택 문제가 아니라 런타임 제어 문제로 이해된다. 기존의 AdamW는 파라미터 업데이트를 계산하지만, 불안정한 학습 궤적에서의 상태를 인식하는 거버넌스 계층이 필요하다. LBW-Guard는 운영 상태를 관측하고, 안정/스트레스/회복 같은 regime를 분류한 뒤, 미리 정의된 경계 포지션(bound posture)을 선택해 AdamW 실행에 바운디드한 영향을 준다. 이때 포지션은 scale/damping/release의 형태로 제어되며, 학습 목표를 바꾸지 않는다. 반응은 로깅되어 실행 경로를 관찰 가능하게 한다. 출발점은 불안정성으로 인한 손실 스파이크나 수렴 저하이며, gradient clipping 같은 로컬 규제보다 런타임 시스템 차원의 거버넌스가 필요하다는 점이다.

입력 값은 loss trajectory, ratio/trend signals 등의 telemetry이다 → 런타임 상태를 분석해 stable, stress, spike/oscillation, recovery-like 등의 operating condition을 할당한다 → predefined limits 아래에서 bounded posture를 선택한다 → AdamW 실행 경로에 scale/damping/release를 적용해 제어를 실행한다 → 제어-active steps, regime switches, stress mode, scale, control energy를 로깅한다. LBW-Guard의 작동은 AdamW의 파라미터 업데이트를 대체하지 않고, 런타임 조건에 따른 실행을 제어하는 데 초점을 둔다

Qwen2.5-7B reference에서 final perplexity가 13.2086에서 10.7353으로 감소(18.7% 개선); E2E 시간이 392.54s에서 357.02s로 단축(1.10×). 모델 사이즈 3B/7B/14B에서도 perplexity 감소가 일관적으로 나타났다. LR 스트레스 조건에서 AdamW가 1885.24, 659.76, 11.6625의 perplexity를 보일 때 LBW-Guard는 11.5704, 10.3280, 10.2582로 운영되며, 각 조건에서 E2E 속도향상을 보였다(예: LR=3e-3에서 1.084×). gradient clipping은 LBW-Guard의 효과를 재현하지 못했다. TinyLlama-1B no-LoRA 설정에서도 LBW-Guard는 trainable한 경로를 유지했다.

단락1: LBW-Guard 아키텍처는 Sensor/Analyzer/Policy-Controller/Actuator/Logger로 구성되어 AdamW 옵티마이저 위에 작동한다. 센서는 손실 트래젝터를 수집하고(필요 시 간단한 probing도 가능) 분석기는 안정/스트레스/손실 스파이크/회복 유사 상태를 판단한다. 정책/컨트롤러는 predefined limits 아래에서 bounded posture를 선택하고, 액추에이터가 이는 AdamW 실행 경로에 적용된다. 로거는 control-active steps, regime switches, stress mode, scale, control energy를 기록한다. 패턴: 입력(telemetry) → 처리(상태 분류) → 제어(포지션 선택) → 실행(실행 경로 수정) → 로깅(활동 기록).

실험은 주로 단일-GPU 스트레스 테스트로 제한되며 LoRA 중심 설정이 다수이다. No-LoRA TinyLlama-1Bsanity 체크는 제한적이며, 내부 컨트롤 정책은 비공개다. gradient clipping 비교가 모든 케이스를 대체하지 못하고, 통계적 유의성은 초기 단계이다. Frontier-scale 다중-GPU/다중-노드 환경에서의 검증은 아직 미완성이다.