harness-eval
하네스 평가
에이전트의 도구 사용과 안전 정책을 테스트용 실행 환경에서 반복 검증하는 평가 방식이다. 여러 웹 도구와 공격 시나리오를 연결해 에이전트가 숨은 지시를 발견하고 거부하는지 확인하며, 단일 대화보다 실제 동작에 가까운 검증이 가능하다.
하네스 평가
에이전트의 도구 사용과 안전 정책을 테스트용 실행 환경에서 반복 검증하는 평가 방식이다. 여러 웹 도구와 공격 시나리오를 연결해 에이전트가 숨은 지시를 발견하고 거부하는지 확인하며, 단일 대화보다 실제 동작에 가까운 검증이 가능하다.