애플 뉴럴 엔진(ANE)에서 딥러닝 학습을? 프라이빗 API로 연 하드웨어의 잠재력
Research·Objective-C0 / 0
애플 뉴럴 엔진(ANE)의 프라이빗 API를 역공학하여 추론 전용 하드웨어에서 신경망 학습(역전파)을 구현한 연구 프로젝트입니다.
주요 기능
- 프라이빗 API를 활용한 ANE 하드웨어 직접 제어 및 인메모리 모델 컴파일
- MIL(Model Intermediate Language) 기반의 커스텀 연산 그래프 동적 생성
- IOSurface 공유 메모리를 통한 고성능 텐서 데이터 입출력(I/O) 구현
- 트랜스포머 레이어의 Forward/Backward 패스를 ANE 커널로 분할 실행
- CPU(vDSP/Accelerate)와 ANE 간의 비동기 병렬 처리 및 데이터 레이아웃 최적화
사용 사례
- 애플 실리콘 기기에서 GPU 부하 없이 NPU를 활용한 저전력 학습 가능성 탐색
- 애플 뉴럴 엔진의 하드웨어 성능 한계 및 내부 동작 구조 분석 연구
5.8k
Stars
829
Forks
+897
Trending
0
조회수
5.8k watchers26 open issues
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.