TL;DR

InfraTech는 특정 라이브러리나 서비스가 아니라 AI Infra 학습을 위한 Python·Jupyter Notebook 중심의 교육용 레포입니다. llm_infer에서 vLLM과 SGLang의 Scheduler, RadixAttention, KV cache, 병렬 추론, Quantization을 실습하고, 별도 디렉터리에서 PyTorch, GPU, 분산 통신, 모델 구조를 익히는 흐름입니다. slime과 vime을 이용한 RL 학습·추론 공존, IPC, 가중치 동기화 자료도 포함하지만 운영 가능한 단일 프레임워크나 SDK는 아닙니다. 개념을 코드로 재현하며 추론 시스템의 병목과 구현 원리를 배우려는 개발자에게 적합하고, 바로 배포할 도구나 안정적인 API를 찾는 경우에는 목적이 맞지 않습니다.

핵심 포인트

• InfraTech는 실행형 제품이 아니라 AI Infra 학습을 위한 Notebook 기반 교육 레포입니다. Python 코드로 개념을 직접 따라가며 PyTorch와 추론 프레임워크의 내부 동작을 익히는 구조입니다. 설치 후 즉시 서비스에 투입하기보다 원리 학습과 실험 목적에 적합합니다.
• llm_infer 폴더에는 vLLM Scheduler, SGLang RadixAttention, KV cache, Quantization, Speculative Decoding, 병렬 추론 실습이 모여 있습니다. 각 Notebook은 입력과 처리 과정을 코드로 쪼개어 핵심 구현을 재현하는 방식입니다. vLLM이나 SGLang의 구조를 소스 코드 수준에서 이해하려는 개발자에게 직접적인 학습 경로가 됩니다.
• deeplearning_framework와 pytorch_vista에는 MLP 학습 과정, Collective Operations, CUDA IPC 기반 Tensor 공유, DeepSeek V3 구조 시각화가 포함되어 있습니다. 이 자료는 모델 사용법보다 Autograd, 분산 통신, 메모리와 병렬 처리의 기반 원리를 다룹니다. GPU와 PyTorch 내부 동작을 단계적으로 익히려는 경우에 활용도가 높습니다.
• RL 영역에서는 slime, vime, Megatron, SGLang과 vLLM 사이의 학습·추론 전환과 가중치 동기화 사례를 다룹니다.共卡와 비共卡 환경의 IPC, P2P 분할, 역할 전환 같은 시스템 문제를 Notebook과 외부 글로 연결합니다. RL 후처리 인프라를 구축하는 개발자에게는 참고 자료가 되지만 완성형 RL 프레임워크를 대체하지는 않습니다.