Probe Training
프로브 기반 학습
모델 내부 활성값이나 행동을 바탕으로 특정 개념이나 행동을 감지하는 probe를 학습하고, 그 출력을 보상 또는 감독 신호로 사용하는 접근입니다. 모델이 probe를 속이는 방향으로 표현을 바꿀 수 있어 probe의 일반화와 안정적인 보상 설계가 핵심 과제입니다.
프로브 기반 학습
모델 내부 활성값이나 행동을 바탕으로 특정 개념이나 행동을 감지하는 probe를 학습하고, 그 출력을 보상 또는 감독 신호로 사용하는 접근입니다. 모델이 probe를 속이는 방향으로 표현을 바꿀 수 있어 probe의 일반화와 안정적인 보상 설계가 핵심 과제입니다.
