generative-ai-safeguards

생성형 AI 모델이 부적절하거나 유해한 콘텐츠를 생성하지 못하도록 제한하는 기술적, 정책적 제어 장치이다. 입력 프롬프트 필터링, 출력 결과 검사, 모델의 거부 메커니즘, 인간의 감독 등이 포함되며, 오용 패턴에 따라 지속적으로 업데이트되는 다층적인 방어 체계를 구축하는 것이 핵심이다.