인구통계학적 편향
성별, 인종, 연령 등 특정 집단에 대해 모델이 고정관념을 갖거나 차별적인 결과를 내놓는 현상이다. 공정한 벤치마크 설계를 위해 데이터셋 생성 단계에서 반드시 제거해야 할 요소로 꼽힌다.
인간은 쉽지만 LLM은 쩔쩔매는 데이터 분석 과제 만들기