Hassan Ashtiani: 수학적 토대를 통한 신뢰할 수 있는 AI 구축

섹션별 상세

기존의 단순한 데이터 익명화 방식은 데이터 간의 패턴이나 외부 데이터와의 교차 참조를 통한 재식별 공격에 취약합니다. Hassan Ashtiani 교수는 임시방편적인 접근 대신 정교한 공격자 앞에서도 프라이버시가 유지됨을 보장하는 수학적 증명 연구에 집중합니다. 이를 통해 의료나 자율주행과 같이 높은 신뢰성이 요구되는 분야에서 AI가 안전하게 작동할 수 있는 근거를 마련합니다.

프라이버시 보존 머신러닝의 효율성을 높이기 위해 기존 알고리즘을 재사용하는 '블랙박스 리덕션' 기법을 제안합니다. 이 방식은 내부 구조를 알 필요가 없는 블랙박스 형태로 기존 모델을 취급하고 이를 프라이버시 보장 프레임워크로 감싸는 형태입니다. 결과적으로 수많은 기존 머신러닝 기법들을 처음부터 다시 설계할 필요 없이 프라이버시 강화 버전으로 신속하게 전환할 수 있습니다.

가우시안 혼합 모델 학습에 관한 연구로 NeurIPS 2018 최우수 논문상을 수상하며 이론적 성과를 입증했습니다. 해당 연구는 샘플 압축 기법을 도입하여 복잡한 모델을 학습하는 데 필요한 데이터의 근본적인 양을 규명했습니다. 이러한 이론적 토대는 모델의 정확도와 프라이버시 강도 사이의 상충 관계를 최적화하는 데 기여합니다.

Vector Institute의 협력 인프라는 대학 간 경계를 넘어 연구자들이 자유롭게 교류하고 자원을 공유할 수 있는 환경을 제공합니다. Ashtiani 교수는 학생 시절부터 Faculty Member가 되기까지 7년간 Vector의 컴퓨팅 자원과 워크숍 시스템을 활용하며 성장했습니다. 이러한 네트워크는 캐나다 내 AI 연구의 마찰을 줄이고 혁신적인 공동 연구를 촉진하는 핵심 동력이 됩니다.

용어 해설

블랙박스 리덕션(Black Box Reduction): — 내부 구조를 알 수 없는 기존 알고리즘을 그대로 활용하면서 새로운 속성(예: 프라이버시 보장)을 추가하는 기법입니다. 기존의 검증된 머신러닝 모델을 수정하지 않고도 프라이버시 보호 프레임워크 내에서 재사용할 수 있게 하여 개발 효율성을 극대화합니다.
가우시안 혼합 모델(Gaussian Mixture Model): — 여러 개의 가우시안 분포가 결합된 형태의 확률 모델로 데이터의 복잡한 분포를 표현하는 통계적 기법입니다. Hassan Ashtiani 교수는 이 모델의 학습에 필요한 데이터 양을 이론적으로 규명하여 NeurIPS 2018 최우수 논문상을 수상했습니다.
샘플 압축(Sample Compression): — 복잡한 데이터 분포를 학습하기 위해 필요한 최소한의 데이터 샘플을 식별하고 압축하는 이론적 개념입니다. 모델이 학습하는 데 근본적으로 필요한 데이터의 양을 파악함으로써 학습 효율성과 프라이버시 보존 능력을 분석하는 데 사용됩니다.

기술

Gaussian Mixture Models
Black Box Reductions
Sample Compression Schemes

활용 사례

의료 데이터 공유 및 분석
자율주행 시스템의 견고성 확보
프라이버시 보존형 대출 승인 시스템