본문으로 건너뛰기

Torc Robotics의 자율주행 멀티모달 AI 스케일링: Ray를 활용한 데이터 파이프라인 통합

Torc Robotics가 Ray를 도입하여 자율주행 데이터 처리 파이프라인을 통합하고 멀티모달 AI 학습 효율을 최적화한 사례.

챕터별 상세

00:00

Torc Robotics 소개 및 미션

Torc Robotics는 2005년 설립되어 20년 이상의 자율주행 경험을 보유한 기업이다. 자율주행 트럭 상용화를 목표로 하며, AI 중심의 소프트웨어 통합 솔루션을 개발한다. 미국 내 장거리 화물 운송 시장을 타겟으로 하며, 안전하고 지속 가능한 혁신을 추구한다.
01:54

자율주행 시장의 과제와 AV 3.0

자율주행 시장은 운전자 부족, 안전 문제, 환경적 영향이라는 과제에 직면해 있다. 2030년까지 미국 내 자율주행 트럭 시장은 2,000억 달러 규모로 성장할 전망이다. Torc Robotics는 이러한 문제를 해결하기 위해 안전한 자율주행 솔루션을 개발하고 있다.
05:28

AV 3.0 아키텍처: End-to-End 학습과 모듈화

AV 3.0은 기존의 휴리스틱 방식과 End-to-End 블랙박스 방식의 단점을 보완한 아키텍처이다. End-to-End 학습을 적용하면서도 모듈별로 관측 가능하고 튜닝 가능한 구조를 갖추었다. Heuristic guardrails를 통해 안전성을 보장하면서 데이터 기반의 최적화를 수행한다.
10:09

데이터 루프: 데이터 생산과 소비

데이터 루프는 데이터 생산과 데이터 소비의 두 단계로 구성된다. 데이터 생산은 트럭 데이터 수집, 제3자 소스, 데이터 생성으로 이루어지며, 데이터 소비는 데이터 분석, 모델 학습, 모델 테스트로 이루어진다. 이 루프를 통해 데이터 기반의 엔지니어링을 수행한다.
12:41

파이프라인 통합: Fragmented에서 Unified로

기존 파이프라인은 AWS ECS, Lamba, SageMaker 등이 파편화되어 관리의 어려움이 있었다. Ray를 도입하여 파이프라인을 통합하고, Ray Data, Ray Train, Ray Tune, Ray Serve를 활용하여 확장성을 확보했다. 파편화된 코드를 통합하여 개발 효율을 높였다.
17:42

성능 최적화: 프로파일링과 튜닝

성능 최적화는 프로파일링을 먼저 수행한 후 튜닝하는 방식으로 진행된다. 병목 현상을 파악하기 위해 파이프라인의 각 단계별 처리 시간을 분석한다. Bottleneck을 해결하기 위해 동시성 증가, 백프레셔 조절, 데이터 처리 최적화 등을 수행한다.
27:27

리소스 최적화: Right-sizing

GPU/CPU 리소스 최적화를 위해 적정 규모의 인스턴스를 할당하는 Right-sizing을 수행했다. GPU가 데이터 부족으로 유휴 상태가 되지 않도록 CPU 리소스를 적절히 분배했다. Ray의 유연한 스케줄링을 통해 GPU/CPU를 독립적으로 확장하여 비용을 절감했다.
45:04

데이터 직렬화와 성능 향상

데이터 직렬화 오버헤드를 줄이기 위해 Apache Arrow 기반 데이터 형식을 도입했다. 직렬화/역직렬화 비용을 줄여 파이프라인 전체 속도를 개선했다. 데이터 구조를 Arrow와 호환되도록 변경하여 메모리 사용량을 줄이고 처리량을 높였다.
46:16

결론 및 요약

멀티모달 AI 아키텍처는 플랫폼 복잡도를 기하급수적으로 증가시킨다. Ray 기반의 통합 아키텍처는 확장성과 효율성을 동시에 제공한다. 리소스 최적화와 데이터 처리 효율화는 자율주행 모델 학습의 핵심이다.

언급된 리소스

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 06. 11.수집 2026. 06. 11.출처 타입 YOUTUBE

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.