YOLO26n 추론을 ARM64 어셈블리와 C로 라즈베리파이4에서 직접 구현한 졸업작품

커뮤니티 반응은 기술적 관심이 높은 편이며 낮은 레벨 최적화와 어셈블리 기반 구현에 대한 세부 질문이 주로 제기될 것으로 예상된다. 일부는 프레임워크 재사용 대비 개발 비용과 유지보수성 문제를 지적할 가능성이 크며 특정 커널의 벡터화·정렬 전략에 대한 실무 조언이 오갈 것이다. 전반적으로 구현 상세와 레포지토리 링크가 제공되어 실무적 피드백과 재현 가능한 제안이 활발하게 이루어질 여지가 크다.

Winograd algorithm

— Winograd 알고리즘은 소형 컨볼루션을 적은 수의 곱셈 연산으로 변환해 연산량을 줄이는 수학적 기법이다. 입력 타일을 변환한 뒤 점별 곱셈을 수행하고 역변환해 출력 타일을 얻는 방식으로 동작한다. 임베디드 장치에서 컨볼루션 기반 모델의 연산 비용을 줄이기 위한 최적화 수단으로 중요하다.

GEMM

— GEMM은 General Matrix Multiply의 약어로 신경망의 주요 연산인 행렬 곱을 가리킨다. 효율성 개선을 위해 블록화·벡터화·캐시 친화적 레이아웃을 적용해 커널을 구현하며, 추론 성능을 결정하는 핵심 병목이다. 특화된 GEMM 커널은 NEON 등 SIMD 명령을 최대한 활용해 처리량을 높인다.

Operator fusion

— Operator fusion은 연속된 연산자들을 하나의 커널로 합쳐 메모리 접근과 중간 버퍼 사용을 줄이는 최적화 기법이다. 입력→연산→출력을 한 번에 처리해 메모리 대역폭과 캐시 미스를 감소시킨다. 임베디드 추론에서 레이턴시와 전력 소비를 낮추는 데 효과적이다.

Micro-kernel

— 마이크로 커널은 작은 크기의 성능 중심 루틴으로서 벡터화와 레지스터 배치에 최적화된 코드 조각이다. 큰 연산을 여러 마이크로 커널 호출로 분해해 캐시와 레지스터를 효율적으로 사용하도록 설계된다. 플랫폼별 어셈블리 수준 튜닝에서 병목 제거에 핵심 역할을 한다.

Cache-aware tiling

— 캐시 인지 타일링은 행렬 연산을 캐시 용량과 계층구조를 고려한 타일 단위로 분할해 캐시 활용도를 극대화하는 기법이다. 타일 크기를 조정해 메모리 접근 패턴을 로컬하게 유지하고 캐시 미스율을 낮춘다. 임베디드 장치에서 메모리 대역폭 제약을 완화해 처리량을 높인다.