핵심 요약
Vertex AI AutoML 기반 계층적 분류 시스템의 성능 저하 원인을 분석하고 iNaturalist급 고정밀 분류를 위한 커스텀 아키텍처의 필요성을 확인했다.
배경
사용자가 Vertex AI AutoML로 구축한 이미지 분류 시스템을 계층적 구조로 변경한 후 성능이 하락하자 iNaturalist와 같은 복잡한 시스템의 올바른 구현 방향을 문의했다.
의미 / 영향
계층적 분류는 논리적으로 타당해 보이지만 실제 구현 시에는 오류 전파로 인해 단일 모델보다 성능이 낮을 위험이 크다. 고난도 이미지 분류 작업에서는 AutoML의 편의성보다 커스텀 모델의 정밀한 제어가 더 중요하다는 점이 확인됐다.
실용적 조언
- 계층적 구조 대신 단일 대형 모델을 사용하되, 손실 함수에 계층적 정보를 반영하는 방식을 검토하라.
- AutoML 대신 PyTorch나 TensorFlow를 사용하여 최신 Vision Transformer(ViT)나 EfficientNet 기반의 커스텀 학습을 시도하라.
언급된 도구
Google Vertex AI AutoML중립
이미지 분류 모델 자동 학습 및 배포
TensorFlow중립
학습된 모델의 컨테이너 파일 형식 및 실행 환경
섹션별 상세
사용자는 모든 라벨을 하나의 데이터셋에 통합했을 때 서로 다른 주제 간의 혼동이 발생한다고 판단하여 시스템을 계층화했다. 먼저 이미지의 대분류를 결정하는 메인 모델을 거친 뒤, 해당 결과에 맞는 하위 모델을 호출하여 최종 라벨을 식별하는 파이프라인을 구축했다. 이러한 구조는 논리적으로는 타당해 보이지만 실제 구현 시에는 복잡도가 크게 증가하는 결과를 초래했다.
계층적 구조를 도입했음에도 불구하고 성능이 오히려 하락하는 예상치 못한 결과가 나타났다. 이는 상위 단계 모델의 분류 오류가 하위 단계로 그대로 전이되어 전체 시스템의 신뢰도를 떨어뜨리는 전형적인 계층적 분류의 부작용이다. 특히 하위 모델이 자신의 도메인 내에서도 대상을 명확히 식별하지 못하는 현상이 관찰됐다.
Google Vertex AI AutoML의 객체 분류 모델이 매우 세밀하고 미묘한 차이를 가진 콘텐츠를 식별하기에는 충분하지 않을 수 있다는 의문이 제기됐다. AutoML은 일반적인 이미지 분류에는 효과적이지만, 생물 종 식별처럼 아주 미세한 시각적 차이를 구분해야 하는 고난도 작업에서는 충분한 성능을 내지 못할 수 있다. 사용자는 학습된 모델을 텐서플로우 컨테이너 파일로 내보내어 사용 중이다.
iNaturalist와 같은 대규모 종 식별 시스템을 재구축하기 위해서는 단순 분류 모델을 넘어선 접근이 필요하다. 대조 학습을 통해 이미지 간의 유사성을 학습하거나, 대규모 사전 학습 모델을 미세 조정하는 방식이 대안으로 거론됐다. 또한 데이터셋의 품질과 라벨링의 일관성이 모델 아키텍처보다 더 중요한 요소일 수 있다는 점도 시사된다.
실무 Takeaway
- 계층적 모델 설계 시 상위 모델의 실수가 하위 모델로 전이되는 오류 전파 현상으로 인해 전체 정확도가 하락했다.
- iNaturalist 수준의 세밀한 분류를 위해서는 범용 AutoML보다 도메인 특화 데이터와 커스텀 백본 네트워크가 필요하다.
- 물리적인 모델 분리보다 단일 모델 내에서 계층적 손실 함수를 적용하거나 멀티태스크 학습을 도입하는 것이 효율적이다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료