본문으로 건너뛰기

자율주행을 위한 시맨틱 세그멘테이션: 기술 가이드

자율주행에서 시맨틱 세그멘테이션은 이미지와 포인트클라우드의 모든 픽셀·포인트에 클래스 레이블을 부여해 주행 가능한 영역·차선·배경 문맥을 정확히 파악하도록 돕는다.

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

자율주행 시스템에서 시맨틱 세그멘테이션은 이미지의 모든 픽셀과 LiDAR 포인트의 모든 점에 클래스 레이블을 부여해 주행 가능한 영역, 차선 구조, 장면 배경 같은 공간적 완전성을 제공하는 핵심 퍼셉션 구성요소이다. 이 글은 세그멘테이션의 정의와 AV에서의 역할, 클래스 온톨로지 설계, 2D와 3D의 장단점, 주석 방법론, 품질 기준과 공통 실패 모드, 그리고 대규모 라벨링 프로그램을 위한 실무 관행을 종합적으로 기술한다.

세부적으로는 이미지 기반 아키텍처(U-Net, DeepLab, Mask2Former, SegFormer 등)와 LiDAR 기반 3D 세그멘테이션이 서로 보완적으로 사용되며, 2D는 밀집한 공간 정보를 제공하고 3D는 거리·기하학적 정확성을 제공하는 방식으로 퓨전된다. 라벨링은 폴리곤·브러시·버킷·슈퍼픽셀 보조와 모델 기반 사전라벨링의 조합으로 수행되며, Segment Anything 같은 기초 모델은 경계 마스크를 제안하고 사람 검토로 클래스를 할당하는 워크플로우로 시간 절감과 일관성 개선을 이끈다.

품질 관리는 픽셀 정확도(mIoU 목표치로 흔히 0.9 이상), 경계 정밀도, 프레임 간 시간적 일관성, 그리고 교차 주석자 합의 같은 다차원 검증으로 구성되며 Kognic은 90개 이상 자동화 체크를 포함한 파이프라인과 수천 명의 훈련된 주석자를 통해 대규모 생산성을 달성했다고 보고한다. 실전에서는 온톨로지를 반복적으로 조정하고 희귀 상황을 과도 표본화하며 사전라벨·인간 검토 피드백 루프와 자동화된 인게스쳔 검사를 결합해야 모델 성능과 안전성 요구조건을 모두 만족할 수 있다.

섹션별 상세

시맨틱 세그멘테이션은 이미지의 각 픽셀이나 포인트클라우드의 각 점에 클래스 레이블을 부여해 장면의 모든 위치를 설명하는 밀집 출력 맵을 생성한다. 입력 영상이나 포인트클라우드를 신경망이 처리하면 위치별 클래스 확률 맵이 출력되고, 후처리로 마스크가 만들어져 플래너나 추적기에 전달된다. 이 접근은 바운딩박스로는 얻을 수 없는 공간적 완전성을 제공하므로 포트홀·물웅덩이·노면 경계 같은 주행 결정에 민감한 세부를 명확히 할 수 있다. 세그멘테이션은 인스턴스 분리를 요구할 때는 instance 또는 panoptic 세그멘테이션과 결합되어 사용된다.
자율주행 스택에서는 주행 가능 영역 추정, 차선 수준 이해, 배경 문맥 파악과 센서 간 일관성 확보에 시맨틱 세그멘테이션이 핵심으로 작동한다. 입력으로 카메라 이미지와(또는) LiDAR 포인트클라우드를 받고, 네트워크는 각 좌표에 대해 클래스 확률을 추정하며 스테레오·LiDAR 또는 단안 깊이 추정과 결합해 자유 공간 맵을 만든다. 이로써 플래너는 어느 영역이 주행 가능한지 거리 정보까지 포함해 직접적으로 판단할 수 있고, 차선·갓길·인접 차선 등 세부 클래스는 횡방향 제어와 차선 변경 의사결정에 활용된다. 센서 퓨전은 시야 가림과 추적·예측의 신뢰도를 높여 전체 시스템의 안전성을 개선한다.
온톨로지 설계는 Cityscapes와 Mapillary Vistas 같은 학술 기준을 출발점으로 삼되 운영 도메인에 맞춰 반복적으로 세부 클래스를 확장하거나 병합하는 과정이다. 입력으로 초기 온톨로지를 적용해 모델을 학습하고 오류 패턴을 분석한 뒤, 특정 혼동이 플래너 오류로 이어지면 해당 클래스를 분할하거나 재정의하는 사이클이 돌아간다. 온톨로지 과도 세분화는 주석 비용 증가와 클래스 불균형을 초래하고 과도 거친 분류는 플래너가 필요로 하는 정보를 잃게 하므로 실무에서는 세분성·비용·안전 영향의 균형을 맞추는 것이 중요하다. 설계 과정은 보통 첫해에 3~5회의 반복 조정이 예상된다고 권장된다.
2D 이미지 기반 세그멘테이션과 3D LiDAR 세그멘테이션은 상호 보완적인 역할을 수행하며 각기 다른 제약을 가진다. 2D는 높은 공간 해상도와 다양한 아키텍처(U-Net, DeepLab, Mask2Former, SegFormer 등)의 혜택을 받아 경계 세부를 잘 포착하지만 깊이 정보가 없어 심도 추정 또는 센서 퓨전을 통해 보정이 필요하다. 3D는 메트릭 좌표계에서 직접 클래스 레이블을 제공하여 플래너에 더 직접적이고 신뢰할 수 있는 기하학적 정보를 주지만 포인트의 희소성과 작은 물체에 대한 표현 한계, 주석의 난이도가 단점으로 작동한다. 실무에서는 두 모달리티를 일관된 온톨로지로 라벨링해 퓨전 파이프라인에서 활용한다.
도로 위 트럭을 중심으로 LiDAR 커버리지가 방사형으로 표시된 항공 뷰 다이어그램이다.
Diagram이 이미지는 다중 LiDAR 센서 레이아웃과 각 센서의 커버리지를 시각적으로 보여주어 3D 세그멘테이션과 센서 퓨전의 공간적 정합 문제를 직관적으로 전달한다. AV 시스템에서 LiDAR가 제공하는 메트릭 거리 정보와 카메라의 밀집 세부 정보를 어떻게 결합하는지, 그리고 센서 가시성에 따른 라벨링·검증 요구가 어떻게 달라지는지를 이해하는 데 유용하다.
주석 기술은 폴리곤·브러시·버킷에서 슈퍼픽셀 보조와 모델 기반 사전라벨링까지 네 세대의 툴이 공존하며, 각 기법은 클래스 특성과 경계 복잡도에 따라 선택된다. 입력으로 원시 이미지 또는 포인트클라우드를 받고, 도구는 사용자가 빠르게 넓은 영역을 채우거나 정밀 경계를 그리도록 하며 슈퍼픽셀은 유사 영역을 그룹화해 라벨 할당을 가속한다. 모델-어시스티드 사전라벨링은 예측 마스크를 먼저 생성하고 인간이 이를 수정하는 워크플로우로 Kognic 사례에서는 사전라벨링과 인간 검토의 조합이 세그멘테이션 주석 시간 최대 68% 절감 효과를 보였다고 보고된다. 최근에는 Segment Anything 같은 기초 모델이 경계 마스크를 생성하고 태스크별 분류 모델이나 인간이 클래스를 할당하는 방식이 보편화되고 있다.
도심 도로 사진 위에 서로 다른 색으로 세그멘테이션 마스크가 오버레이된 시각화 이미지이다.
Screenshot이 이미지는 픽셀 단위 클래스 분포와 경계 처리 예시를 보여주어 세그멘테이션 라벨이 플래너에 제공하는 공간 정보를 직관적으로 설명한다. 경계 근처의 오류와 소형 객체 표현 문제, 그리고 클레스별 색상 할당이 온톨로지 설계와 품질 검사에서 어떤 역할을 하는지 연결 지어 이해할 수 있다.
근거
  • Kognic의 사전라벨링과 인간 검토 조합은 시맨틱 세그멘테이션 주석에서 최대 68%의 시간 절감 효과를 제공한다고 보고되었다. 본문 'Annotation Techniques and Tools' 단락의 Kognic 사례 언급
품질 요구사항은 픽셀 수준 정확도, 경계 정밀도, 프레임 간 일관성, 주석자 간 합의라는 네 가지 축으로 구성되며 각각 다른 측정 방법을 필요로 한다. 입력 라벨과 기준 라벨 간 mIoU를 통해 전반적 픽셀 정확도를 측정하고, 경계 중심의 지표(boundary IoU 또는 trimap 방식)를 이용하면 경계 오차가 플래너에 미치는 영향을 더 정확히 평가할 수 있다. 시간적 일관성은 연속 프레임에서의 라벨 변화(flicker)를 줄이는 지표로 특히 비디오 기반 학습과 추적에 중요하며 교차 센서 일관성 검사도 포함된다. Kognic 플랫폼은 90개가 넘는 자동화된 품질 검사기를 라벨 인게스쳔 단계에 적용해 오류를 초기에 차단한다고 보고한다.
근거
  • AV 학습용 세그멘테이션 라벨의 품질 목표로 흔히 기준이 되는 수치는 공통 클래스에 대해 mIoU 0.9 이상이다. 본문 'Quality Requirements' 섹션의 mIoU 목표치 기술
  • Kognic 플랫폼은 AV 데이터용으로 90개 이상의 자동화 품질 검사기를 운영한다고 본문에서 밝히고 있다. 본문 'Quality Requirements' 단락과 'Where Kognic Fits'에서 자동화 체크 수 언급
대규모 세그멘테이션 프로그램이 반복적으로 마주치는 핵심 문제는 클래스 불균형, 경계 모호성, 부분 가림(occlusion), 작은 객체의 표현 한계, 그리고 악천후·저조도 환경에서의 외관 변화이다. 입력 데이터에서 도로·하늘 등 대형 클래스가 픽셀 수를 지배하면 콘 대신 트래픽 콘·장애물과 같은 안전상 중요한 소수 클래스의 모델 성능이 떨어지며 이를 해소하려면 오버샘플링과 목표 지향적 주석 전략이 필요하다. 부분 가림과 모호한 경계는 일관된 가이드라인과 픽셀 단위 예제 이미지를 통해 주석자 교육으로 완화해야 하며, 시퀀스 전파 도구는 시간적 일관성을 개선하지만 전파 모델이 드리프트할 위험을 동반한다. 악천후·야간 등 엣지 케이스는 별도 표본화와 전용 품질 검사를 포함한 명시적 추적·관리 체계를 요구한다.
효과적인 실무 관행은 온톨로지의 반복 설계, 인간-검토 기반 사전라벨링 피드백 루프, 인게스쳔 단계의 자동화 품질 검사, 엣지케이스 과표본화, 그리고 픽셀 수준 예시를 포함한 명확한 가이드라인으로 요약된다. 입력-처리-출력 관점에서 보면 사전라벨링 모델이 초기 마스크를 생성하고 인간 검토 결과는 다음 라운드 학습에 피드백되어 사전라벨링의 품질을 점진적으로 향상시키는 사이클이 핵심 경제적 엔진 역할을 한다. 자동화된 체크는 라벨이 학습 세트에 들어가기 전에 경계 일관성·클래스 분포·프레임 간 일관성 등을 기계적으로 검증해 후행 모델 실패 비용을 크게 낮춘다. 이런 관행을 결합할 때만 대규모 AV 데이터파이프라인이 안전 목표를 충족하면서도 비용·시간 효율을 달성할 수 있다.
근거
  • Kognic은 4,000명 이상의 훈련된 주석자를 보유하고 OEM·Tier1 공급사에 1억 건 이상의 주석을 제공했다고 본문에 기술되어 있다. 본문 'Where Kognic Fits' 단락의 플랫폼 규모와 전달 실적 언급

용어 해설

평균 교집합비(IoU 평균)(mIoU)
픽셀 단위 예측과 기준 레이블 간 교집합 대비 합집합의 비율을 클래스별로 계산해 평균한 지표로, 세그멘테이션 전반의 정밀도를 수치로 요약하며 AV 데이터셋 검증에서 흔히 사용되어 목표 mIoU 수준이 품질 기준이 된다.
시간적 일관성(Temporal Consistency)
연속 프레임들 사이에서 동일 객체나 표면에 대해 클래스 레이블이 일관되게 유지되는 정도로, 프레임 단위 라벨링으로 발생하는 깜빡임을 줄이고 추적·예측 모듈의 안정성에 직접적인 영향을 준다.
슈퍼픽셀 기반 보조 라벨링(Superpixel-assisted annotation)
이미지를 유사한 색·텍스처 영역으로 사전 분할해 annotator가 영역 단위로 클래스를 할당하도록 하는 기법으로, 경계 정확도를 어느 정도 유지하면서 넓은 영역의 라벨링 속도를 크게 높인다.
경계 IoU(Boundary IoU)
객체와 배경 사이의 경계 픽셀에 더 큰 가중치를 두어 계산하는 IoU 변형으로, 주행 의사결정에 민감한 경계 오차를 별도로 측정해 전통적 mIoU로는 드러나지 않는 문제를 포착한다.
다중 센서 퓨전(Multi-sensor fusion)
카메라 기반 2D 세그멘테이션과 LiDAR 기반 3D 세그멘테이션 결과를 좌표공간에서 정합하여 센서 간 불일치를 해소하고 깊이·가시성 정보를 결합해 플래너가 사용 가능한 일관된 장면 표현을 만드는 과정이다.

기술

  • U-Net
  • DeepLab
  • Mask2Former
  • SegFormer
  • Segment Anything (SAM)
  • LiDAR

활용 사례

  • 주행 가능한 자유공간 맵 생성(드라이버블 영역 추정)
  • 차선 수준의 횡방향 제어와 차선 변경 의사결정 지원
  • 교차 센서 일관성 확보를 통한 가림(occlusion) 처리와 추적·예측 신뢰도 향상
AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 06. 24.수집 2026. 06. 24.출처 타입 RSS

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.