TL;DR
PyTorch Foundation이 AI 칩 및 소프트웨어 기업 Cambricon을 플래티넘 회원으로 맞이하면서 하드웨어와 PyTorch의 통합을 오픈소스 방식으로 확대하는 협력이 시작됐습니다. Cambricon은 torch.compile, Eager Operators, Device Runtime, Distributed Computing, AMP, Dataloader, Profiler 등 여러 영역에 기여해 왔고, vLLM 커뮤니티와 함께 DeepSeek-V4와 GLM-5의 Cambricon 하드웨어 Day 0 지원도 추진했습니다. 앞으로는 컴파일 인프라, CI/CD, PyTorch 도메인별 라이브러리의 장치 비종속 지원에 투자를 늘리며 Torch-MLU의 연산자 지원, Inductor 통합, CNCL 기반 분산 학습, 혼합 정밀도와 프로파일링을 강화할 예정입니다. 플래티넘 회원 자격에 따라 Cambricon은 Governing Board 의석을 하나 얻고, Jin Wang과 Jing Zhu가 각각 이사회와 Technical Advisory Council에 참여합니다.
섹션별 상세
용어 해설
- Upstream First
- — 하드웨어별 변경 사항을 별도 포크에 쌓기보다 원본 오픈소스 프로젝트에 먼저 반영하는 개발 전략입니다. Cambricon은 이 방식을 통해 PyTorch의 핵심 코드와 생태계에 직접 기여하고, 여러 하드웨어에서 유지보수 가능한 공통 구현을 확보하려고 합니다.
- PrivateUse1 백엔드 통합 메커니즘(PrivateUse1)
- — PyTorch가 특정 공급업체의 장치를 별도 핵심 포크 없이 백엔드로 연결할 수 있도록 제공하는 통합 경로입니다. Cambricon은 이 메커니즘을 기반으로 Torch-MLU 확장을 구축해 연산자, Inductor, 분산 학습과 성능 도구를 연결합니다.
- CNCL 통신 라이브러리(CNCL)
- — Cambricon 하드웨어에서 분산 학습 통신을 처리하는 라이브러리입니다. Torch-MLU 확장 안에서 CNCL 기반 분산 학습을 PyTorch 실행 흐름과 결합해 여러 장치를 사용하는 대규모 모델 학습을 지원합니다.
- 자동 혼합 정밀도(AMP)
- — 모델 연산에 서로 다른 수치 정밀도를 적용해 처리 효율을 높이는 실행 기법입니다. 기사에서는 Cambricon의 PyTorch 기여 영역과 Torch-MLU의 혼합 정밀도 가속 기능 중 하나로 제시되어 학습과 추론 최적화에 연결됩니다.
- 지속적 통합·지속적 배포(CI/CD)
- — 코드 변경을 자동으로 빌드하고 테스트하며 배포 과정에 반영하는 소프트웨어 개발 체계입니다. Cambricon은 PyTorch Foundation과의 협력에서 컴파일 인프라와 함께 CI/CD 개선에 대한 투자를 확대할 계획입니다.
기술
- PyTorch Foundation
- PyTorch
- Cambricon
- torch.compile
- Eager Operators
- Device Runtime
- Distributed Computing
- AMP
- Dataloader
- Profiler
- vLLM
- DeepSeek-V4
- GLM-5
- Torch-MLU
- PrivateUse1
- Inductor
- CNCL
- CI/CD
활용 사례
- Cambricon 하드웨어에서 대규모 언어 모델 학습 및 추론
- 대화형 AI와 agentic AI 서비스
- 검색·광고·추천 시스템
- 오디오·비디오 생성과 멀티모달 애플리케이션
- vLLM 기반 대규모 모델 서빙
- Cambricon 하드웨어를 활용한 분산 학습
언급된 리소스
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.