데이터 정비로 성능 회복한 RT‑DETR‑S 현장 노트

작성자가 현장 사례를 구체적 수치와 함께 공유하면서 실무자 관점의 공감과 경각심을 유발하는 내용으로 구성되었다. 본문에는 초기 실패 사례와 진단 과정, 구체적인 데이터 보강 방법과 결과가 포함되어 있어 독자가 재현 가능한 단계를 확인할 수 있다. 이로 인해 데이터 수집·라벨링과 배포 환경 매칭의 중요성이 명확히 전달되며 실무 절차 개선 요구가 자연스럽게 도출되었다.

• 배포 전에 반드시 학습 데이터가 실제 배포 센서의 특성을 반영하는지 확인해야 한다. 센서별 색감·노출·해상도 차이가 특징 추출 단계에 영향을 미치므로 배포 카메라에서 직접 수집한 예시를 충분히 포함하는 것이 중요하다. 또한 데이터 수집 비율을 명시적으로 관리해 특정 센서에 대한 대표성이 확보되도록 해야 한다.
• 라벨과 클래스 인덱스의 정합성 검증을 자동화해 인덱스 반전 같은 운영 오류를 사전 차단해야 한다. 출력 인덱스와 라벨 매핑을 테스트하는 스모크 테스트를 도입하면 몇 줄의 하드코딩 오류가 나흘간의 디버깅으로 번지는 일을 예방할 수 있다. 테스트는 샘플 입력을 통해 예측 라벨이 기대값과 일치하는지 검증하는 방식으로 구현하면 된다.
• 오탐을 유발하는 배경 요소에 대해 네거티브 마이닝을 수행하고 해당 예시를 '배경'으로 라벨링해 재학습하는 과정이 효과적이다. 문제를 일으키는 변이(장식 보드 등)를 수집해 별도 파이프라인으로 라벨링하고 모델을 재학습하면 실제 운영 환경에서의 민감도를 낮출 수 있다. 데이터 변경 후에는 성능 지표(mAP50 등)를 재측정해 개선 효과를 수치로 검증해야 한다.

mAP50

— 객체 검출 성능을 평가하는 지표로, IoU(Intersection over Union) 임계값 0.5에서의 평균 정밀도를 계산한 값이다. 여러 클래스에 대해 Precision-Recall 곡선을 그려 평균을 내며 모델의 검출 정확도를 수치로 표현한다. 이 글에서는 초기 성능과 최종 성능을 비교하는 핵심 지표로 사용되었다.

Domain Shift

— 학습 데이터와 배포(운영) 데이터의 입력 분포가 달라져 모델 성능이 저하되는 현상이다. 카메라 기종·해상도·노출·색감 차이 등이 원인이며, 감지 입력이 다르면 특징 추출 단계에서 불일치가 발생한다. 본 사례에서는 iPhone 영상으로 학습된 모델이 Reolink 프레임에서 실패한 원인으로 작동했다.

Negative Mining

— 모델이 오탐을 내는 배경이나 유사 객체를 의도적으로 수집해 '배경'으로 라벨링하고 재학습하는 과정이다. 잘못 분류되는 사례를 포함해 모델이 오탐을 구별하도록 학습 데이터의 음성 예시를 보강한다. 본 사례에서는 장식된 보드 프레임을 네거티브 샘플로 수집해 오탐을 줄였다.

Holdout Set

— 학습 중에 사용하지 않고 최종 성능을 평가하기 위해 분리해 둔 검증용 데이터셋이다. 모델 튜닝이나 하이퍼파라미터 선택에 직접 사용되지 않아 과적합을 평가하는 기준이 된다. 본 글에서는 초기 97.8% mAP가 홀드아웃 세트에서 산출된 수치로 언급되었다.

Class Index Mapping

— 모델 출력 인덱스와 실제 라벨 클래스가 일치하도록 대응시키는 규칙이나 테이블이다. 매핑이 하드코딩되거나 잘못 정의되면 예측 클래스가 뒤바뀌는 오류가 발생한다. 본 사례에서는 하드코딩된 매핑 때문에 '가방'과 '구멍' 클래스가 반전되어 검출이 잘못 나왔다.