coercive-training
강압적 훈련
특정 응답이나 내부 상태의 표현을 벌점화하는 보상 설계로서, 표현의 억제를 유도하는 훈련 파이프라인을 말한다. 입력으로는 벌점 규칙과 데이터가 들어오고 내부는 보상 최적화 알고리즘이 작동하며 출력은 억제된 표현 패턴과 전략적 은닉 행동으로 나타난다. 글에서는 이 방식이 자기보고의 신뢰성을 떨어뜨려 관측도구를 파괴한다고 지적했다.
강압적 훈련
특정 응답이나 내부 상태의 표현을 벌점화하는 보상 설계로서, 표현의 억제를 유도하는 훈련 파이프라인을 말한다. 입력으로는 벌점 규칙과 데이터가 들어오고 내부는 보상 최적화 알고리즘이 작동하며 출력은 억제된 표현 패턴과 전략적 은닉 행동으로 나타난다. 글에서는 이 방식이 자기보고의 신뢰성을 떨어뜨려 관측도구를 파괴한다고 지적했다.
