data-resurfacing

AI 모델이 학습 과정에서 습득한 특정 정보가 사용자의 질문에 대한 답변 과정에서 그대로 또는 유사하게 출력되는 현상이다. 기밀 데이터를 학습한 모델의 경우, 권한이 없는 사용자에게 민감한 정보가 노출될 수 있는 핵심적인 보안 리스크로 작용한다.