Clearview AI 사례로 본 AI 데이터 수집과 생체 인식 윤리 토론

대체로 Clearview AI의 방식에 비판적이며, 공개된 정보라는 이유만으로 모든 형태의 재가공이 허용되어서는 안 된다는 공감대가 형성되어 있다.

• AI 제품 개발 시 데이터셋 출처를 명확히 기록하고, 수집 목적 외 사용을 방지하기 위한 기술적 가드레일을 설계 단계부터 고려해야 한다.

Biometric Lookup

— 개인의 신체적 특징인 얼굴 이미지를 디지털 코드로 변환하여 데이터베이스와 대조함으로써 신원을 식별하는 기술이다. 단순한 사진 열람을 넘어 데이터화된 생체 정보를 기반으로 특정 인물을 자동 검색하는 시스템을 구축하는 데 핵심적인 역할을 한다.

Purpose Limitation

— 데이터가 수집될 당시의 원래 목적 범위를 벗어나서 사용되지 않아야 한다는 데이터 보호 원칙이다. 소셜 미디어 게시 목적으로 올린 사진이 본인 동의 없이 수사 기관의 신원 확인용 데이터로 전환되는 것은 이 원칙에 위배되는 대표적인 사례로 꼽힌다.

Dataset Provenance

— AI 학습이나 시스템 구축에 사용된 데이터의 기원, 수집 경로, 소유권 및 변경 이력을 추적하는 체계이다. 데이터의 투명성을 확보하여 무단 스크래핑이나 불법적인 데이터 수집 여부를 검증하고 법적 책임을 명확히 하는 데 필수적이다.