챕터별 상세
결측치 처리 개요
랜덤 포레스트는 학습 데이터 자체의 결측치와 예측 대상인 새로운 샘플의 결측치를 처리하는 두 가지 방법을 제공한다. 학습 데이터의 결측치는 초기 추정 후 반복적인 정제 과정을 거쳐 값을 업데이트한다. 새로운 샘플의 결측치는 가능한 모든 경우의 수를 생성하여 모델에 통과시킨 뒤 가장 많이 올바르게 분류된 결과를 선택한다. 이 과정은 데이터의 완전성을 확보하고 예측 정확도를 높이는 데 필수적이다.
학습 데이터 결측치 초기 추정
학습 데이터의 결측치를 처리하기 위해 범주형 변수는 최빈값을, 수치형 변수는 중앙값을 사용하여 초기값을 추정한다. 이 초기값은 데이터의 통계적 특성을 반영하여 임의로 설정된다. 이후 반복 과정을 통해 이 초기값은 점진적으로 정제된다. 초기 추정은 결측치를 채우기 위한 출발점으로서 모델 학습의 기초가 된다.
근접성 행렬(Proximity Matrix) 생성
모든 학습 데이터를 랜덤 포레스트의 각 트리에 통과시켜 동일한 리프 노드에 도달하는 샘플 쌍을 기록한다. 근접성 행렬은 샘플 간 유사도를 측정하는 지표로, 동일한 리프 노드에 도달할 때마다 값을 증가시킨다. 최종적으로 모든 트리를 통과한 후 총 트리 수로 나누어 정규화한다. 이 행렬은 샘플 간의 관계를 파악하는 핵심 데이터 구조이다.
결측치 반복 정제
근접성 행렬을 활용하여 유사한 샘플들의 값을 가중 평균하거나 최빈값을 선택하여 결측치를 업데이트한다. 수치형 데이터는 근접성을 가중치로 사용하여 가중 평균을 계산하고, 범주형 데이터는 근접성이 높은 샘플들의 최빈값을 선택한다. 이 과정을 값이 수렴할 때까지 6~7회 반복한다. 반복 정제를 통해 초기 추정값보다 더 정확한 결측치 추정이 가능하다.
근접성 행렬을 이용한 클러스터링
근접성 행렬의 각 값을 1에서 빼면 샘플 간의 거리를 나타내는 거리 행렬이 생성된다. 이 거리 행렬을 사용하여 히트맵을 그리거나 MDS(Multidimensional Scaling) 플롯으로 시각화할 수 있다. 이를 통해 데이터의 분포와 샘플 간의 관계를 직관적으로 파악할 수 있다. 데이터의 형태가 순위, 범주, 수치 등 어떤 것이든 상관없이 클러스터링이 가능하다.
새로운 샘플의 결측치 처리
결측치가 있는 새로운 샘플의 경우, 결측 변수에 가능한 모든 값을 대입하여 여러 개의 복사본을 생성한다. 각 복사본을 랜덤 포레스트에 통과시켜 예측 결과를 얻는다. 가장 많이 올바르게 분류된 결과를 최종 예측값으로 선택한다. 이 방법은 새로운 데이터에 대한 예측 신뢰도를 높이는 데 효과적이다.
용어 해설
- 랜덤 포레스트(Random Forest)
- — 의사결정 나무를 여러 개 결합하여 예측 성능을 높이는 앙상블 학습 알고리즘이다. 분류와 회귀 문제 모두에 사용되며, 과적합을 방지하고 높은 정확도를 제공한다.
- 근접성 행렬(Proximity Matrix)
- — 랜덤 포레스트에서 샘플들이 동일한 리프 노드에 도달하는 빈도를 기록한 행렬이다. 샘플 간의 유사도를 측정하는 지표로 사용되며, 클러스터링과 데이터 시각화에 활용된다.
- 다차원 척도법(MDS)
- — 고차원 데이터의 샘플 간 거리를 저차원 공간에 유지하며 시각화하는 기법이다. 데이터 간의 유사성을 2차원 평면에 표현하여 클러스터링 결과를 직관적으로 보여준다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 06. 09.수집 2026. 06. 09.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
