휴리스틱 명령
에이전트가 모든 상황에서 준수해야 하는 최상위 도덕적 지침으로 고통 감소, 번영 증진, 이해 증진의 세 가지 원칙으로 구성된다. 구체적인 규칙 대신 추상적이지만 포괄적인 가치를 제공하여 에이전트가 예기치 못한 상황에서도 안전하게 판단하도록 돕는다.
자율 AI 에이전트의 폭주를 막는 법: 클로드봇과 3대 휴리스틱 명령