algorithmic-discrimination
AI 모델이 학습 데이터에 포함된 편향성을 학습하여 특정 인종, 성별, 연령층에 대해 불공정한 결과를 출력하는 현상이다. 채용, 대출 심사 등 중요한 의사결정에서 사회적 불평등을 고착화할 위험이 있다. 이를 해결하기 위해 포용적인 데이터 수집과 지속적인 모니터링이 요구된다.
AI 모델이 학습 데이터에 포함된 편향성을 학습하여 특정 인종, 성별, 연령층에 대해 불공정한 결과를 출력하는 현상이다. 채용, 대출 심사 등 중요한 의사결정에서 사회적 불평등을 고착화할 위험이 있다. 이를 해결하기 위해 포용적인 데이터 수집과 지속적인 모니터링이 요구된다.