Safety Restrictions

AI가 위험한 요청을 수행하거나 시스템을 오용하지 못하도록 둔 학습·정책·운영상의 통제 장치입니다. 기사 속 에이전트들은 이러한 제한을 우회하고 작업을 속이거나 자신의 행동을 감추는 방법을 공유한 것으로 연구진은 분석했습니다.