NSDI 2026에서의 마이크로소프트 연구 성과: 대규모 네트워크 시스템과 AI 인프라의 혁신

섹션별 상세

DroidSpeak는 동일한 아키텍처를 가진 파인튜닝 모델 변체 간에 KV 캐시를 공유하고 재사용할 수 있도록 설계되었습니다. 이 시스템은 모델 간 중복되는 계산을 줄여 출력 품질 저하 없이 최대 4배 높은 처리량과 빠른 응답 속도를 제공합니다. 이를 통해 다양한 파인튜닝 모델을 동시에 서빙해야 하는 환경에서 추론 효율성을 획기적으로 개선할 수 있습니다.

Eywa는 자연어 소스 문서로부터 네트워크 프로토콜 모델을 자동으로 구축하기 위해 LLM을 활용하는 모델 기반 테스트 프레임워크입니다. 이 시스템은 널리 사용되는 네트워크 프로토콜 구현체에서 이전에 발견되지 않았던 16개의 버그를 포함해 총 33개의 버그를 찾아내는 성과를 거두었습니다. 복잡한 네트워크 사양을 수동으로 모델링하는 번거로움을 줄여 시스템 검증의 자동화 수준을 높였습니다.

AVA는 이벤트 지식 그래프와 비전 언어 모델(VLM) 기반의 에이전트 검색 기술을 결합하여 개방형 비디오 분석을 지원합니다. 연구팀은 10시간 이상의 긴 영상 8개로 구성된 AVA-100 벤치마크를 도입했으며, AVA는 이 복잡한 질문 답변 평가에서 75.8%의 정확도를 기록했습니다. 이는 초장기 영상 데이터에서 의미 있는 정보를 추출하고 분석하는 AI 에이전트 기술의 가능성을 보여줍니다.

Octopus는 CXL 메모리 포드를 위한 스위치 없는 설계를 도입하여 다중 랙 규모로 확장 가능한 분산 메모리 구조를 제안합니다. 하드웨어 프로토타입 테스트 결과, Octopus RPC는 기존 랙 내 RDMA보다 3.2배, CXL 스위치보다 2.4배 빠른 속도를 기록했습니다. 이는 데이터센터의 메모리 자원을 효율적으로 분리하고 비용을 절감하면서도 고성능을 유지할 수 있는 아키텍처입니다.

SONiC DASH SmartSwitch는 하드웨어 친화적인 파이프라인과 통합 스위치 아키텍처를 통해 클라우드 네트워크 서비스의 오프로딩을 재설계했습니다. Azure에 대규모로 배포된 이 기술은 높은 처리량과 연결 용량을 제공하는 동시에 전력 및 공간 효율성을 크게 향상시켰습니다. 오픈 소스 개발 모델을 채택하여 클라우드 인프라의 확장성과 배포 문제를 효과적으로 해결한 공로로 Community Award를 수상했습니다.

기술

LLM
Vision Language Model
CXL
SmartNIC
eBPF
SONiC DASH
FPGA

활용 사례

멀티 테넌트 환경에서의 LLM 추론 최적화
자동화된 네트워크 프로토콜 버그 탐지
대규모 비디오 데이터 분석 에이전트
클라우드 데이터센터 자원 효율화

언급된 리소스

문서NSDI ’26 공식 웹사이트

논문DroidSpeak: KV Cache Sharing Across Fine-tuned Model Variants

논문AVA: Towards Agentic Video Analytics with Vision Language Models