본문으로 건너뛰기

harness-eval

하네스 평가

에이전트의 도구 사용과 안전 정책을 테스트용 실행 환경에서 반복 검증하는 평가 방식이다. 여러 웹 도구와 공격 시나리오를 연결해 에이전트가 숨은 지시를 발견하고 거부하는지 확인하며, 단일 대화보다 실제 동작에 가까운 검증이 가능하다.