생성형 AI가 개인 전화번호를 유출하는 문제와 대응의 한계

생성형 AI 모델이 학습 과정에서 수집한 개인 식별 정보(PII)를 응답에 포함해 유출하는 사례가 빈번하게 발생한다. 챗봇은 웹에서 스크랩한 방대한 데이터를 학습하며, 이 과정에서 전화번호나 주소 등 민감한 정보가 모델에 내재화된다. 기업들이 필터링 등 안전 장치를 설계하지만, 챗봇의 답변 정확성을 높이려는 설계 의도와 충돌하며 실제 유출을 완벽히 막지 못한다. 현재 개인정보를 삭제하거나 수정할 표준화된 절차가 미비해 피해자들은 실질적인 보호를 받기 어려운 상황이다.