두더지 잡기 딜레마 해결: AI 비전 모델의 편향을 제거하는 더 스마트한 방법

기존의 AI 모델 편향 제거 방식인 투영(Projection) 기법은 특정 편향을 제거하는 과정에서 주변의 다른 데이터 관계를 왜곡하여 새로운 편향을 만들거나 증폭시키는 '두더지 잡기 딜레마'를 유발한다. MIT와 구글 연구진은 이를 해결하기 위해 고차원 공간 내의 특정 좌표를 회전시켜 편향된 개념 간의 구분을 없애는 WRING(Weighted Rotational DebiasING) 기법을 제안했다. 이 방식은 모델의 다른 학습된 관계를 보존하면서도 특정 타겟 개념에 대한 편향만을 효과적으로 억제하는 것이 특징이다. 특히 사후 처리(Post-processing) 방식으로 작동하여 이미 학습된 거대 모델을 처음부터 다시 학습시킬 필요 없이 즉각 적용할 수 있어 실무적 효율성이 높다.