safety-evaluation
안전성 평가
안전성 평가는 모델의 유해 출력 발생률, 악용 시나리오, 제약 회피 가능성 등을 다양한 시나리오와 벤치마크로 검증하는 프로세스를 말한다. 입력 변형·어드버서리 프롬프트·실세계 시나리오를 통해 위험 사례를 재현하고 정량적·정성적 지표로 결과를 기록하며, 완화책의 효과를 함께 측정한다. 평가의 범위와 투명성이 배포 결정과 규제 논의에 직접적인 영향을 미친다.
중급
안전성 평가
안전성 평가는 모델의 유해 출력 발생률, 악용 시나리오, 제약 회피 가능성 등을 다양한 시나리오와 벤치마크로 검증하는 프로세스를 말한다. 입력 변형·어드버서리 프롬프트·실세계 시나리오를 통해 위험 사례를 재현하고 정량적·정성적 지표로 결과를 기록하며, 완화책의 효과를 함께 측정한다. 평가의 범위와 투명성이 배포 결정과 규제 논의에 직접적인 영향을 미친다.
