이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
GPU 커널 생성에서는 후보를 빠르게 만드는 일보다 실제로 더 빠르고 올바른지 확인하는 일이 병목이 됩니다. Proteus는 에이전트가 커널을 제안하면 통제된 기준 구현과 무작위 정확성 테스트로 검증하고, CUDA event·wall clock·CUPTI timer를 교차 사용해 통과한 후보만 다시 측정하는 구조를 갖췄습니다. 또한 과거 실행에서 얻은 지식을 상황과 행동이 짝지어진 짧은 교훈으로 정제해 프롬프트에 넣고, 지나치게 큰 메모리 계층이 토큰을 소모하지 않도록 검색 범위를 제한했습니다. Qwen 3.5 122B의 Gated DeltaNet packed decode 사례에서는 입력 shape별 커널을 분리해 0.018ms의 최저 지연과 최대 1.6배의 shape별 개선을 얻었으며, 개별 커널 기준으로는 vLLM 구현보다 1.8~5.2배 빠른 결과가 나왔습니다.
섹션별 상세
기존 추론 시스템은 다양한 모델과 요청을 처리하기 위해 범용 GPU 커널을 사용하지만, 실제 연산 shape는 모델의 고정 파라미터와 요청마다 달라지는 토큰 수가 함께 결정합니다. 같은 행렬 곱셈이라도 요청의 토큰 수에 따라 한 축의 크기가 바뀌므로 모든 모델과 입력에 하나의 커널을 적용하면 GPU 자원 배치가 최적화되지 않습니다. Proteus는 실행 시점에 반복되는 구체적인 shape를 기준으로 커널을 나눠 Qwen 3.5 122B의 개별 커널을 vLLM보다 1.8~5.2배 빠르게 만드는 방향을 택했습니다.
Proteus의 핵심 흐름은 에이전트가 후보 커널을 생성하고, 통제된 기준 구현과 비교해 정확성을 확인한 뒤, 검증을 통과한 후보만 실제 GPU에서 측정하는 방식입니다. 이후 가장 좋은 후보를 부모로 삼아 수정과 재검증을 반복하고, 서로 다른 올바른 부모에서 병렬 탐색을 진행해 특정 설계에 갇히는 현상을 줄입니다. 생성 단계에서 에이전트가 자유롭게 구조나 구현 방식을 바꾸도록 하면서도, 무엇을 측정하고 어떤 후보를 승격할지는 외부 루프가 통제하는 분업이 적용됐습니다.
커널 탐색의 첫 번째 난제는 더 좋은 프로그램을 찾는 일이 아니라 측정값이 공정한지 확인하는 일이었습니다. RoPE 후보가 이전 컴파일 결과를 재사용하거나 CUDA Graph로 여러 GPU 호출을 묶는 동안 기준선은 각 호출을 따로 실행하면 후보가 실제로 같은 작업을 하지 않고도 빨라 보일 수 있습니다. Proteus는 실행 전 잔여 컴파일 상태를 지우고 설정·정리 순서를 맞추며, 여러 타이머와 비공개 테스트를 사용하고, GPU의 이론적 대역폭과 연산 한계를 넘는 100배 초과 속도 향상을 자동 검토 대상으로 보내 평가 지표만 공략하는 후보를 걸러냅니다.
프롬프트에 과거 실행 정보를 모두 넣는 방식은 지식보다 비용과 혼선을 키웠습니다. 너무 일반적인 조언은 행동으로 이어지지 않았고, 특정 입력 크기와 한 번의 실행에 묶인 세부 기록은 다른 연산이나 GPU에 잘못 적용됐으며, 초기 시스템에서는 메모리 검색과 라우팅에 토큰 대부분이 쓰였습니다. 개선된 지식 계층은 상황과 행동이 함께 적힌 고신뢰 교훈과 가까운 부모 실행의 간결한 실패 기록만 계층적 태그 필터와 키워드·의미 혼합 검색으로 가져오고, 재구성 작업은 동기 실행이 아닌 백그라운드 작업으로 분리했습니다.
Gated DeltaNet의 packed decode 사례는 shape 특화가 실제 성능으로 이어지는 과정을 보여줍니다. NVIDIA B200과 Triton 백엔드에서 기준 구현의 지연은 0.025ms였고, Batch-1 복구 경로의 Candidate 012는 1.5배, serving-decode 경로의 Candidate 030은 0.018ms의 최저 지연을 기록했으며 Candidate 036은 Batch=4, Key=128, Value=128 shape에서 1.6배의 최고 속도 향상을 냈습니다. 이 후보는 value 차원을 64-wide 청크로 처리하므로 모든 입력에 적용하는 범용 대체물이 아니라 해당 shape에서만 안전하게 조합할 수 있는 커널입니다.
향후 구조에서 에이전트는 커널 작성 방식과 탐색 방향을 더 자율적으로 선택하고, 진화 루프는 메모리와 평가 결과를 전달하는 채널로 좁혀집니다. 에이전트가 직접 잰 시간은 잔여 캐시나 보이는 테스트에 영향을 받을 수 있으므로 신뢰할 점수는 외부 검증기가 계산한 정확성과 지연뿐입니다. Proteus가 보여준 핵심 교훈은 후보 생성은 값싸고 빠르지만, 생산 환경에 넣을 수 있는 결과를 만들려면 검증 절차와 적용 범위를 명확히 하는 지식 관리에 설계 역량을 집중해야 한다는 점입니다.
용어 해설
- GPU 커널(GPU Kernel)
- — GPU 커널은 행렬 곱셈이나 상태 갱신처럼 특정 연산을 GPU에서 실행하는 프로그램 단위입니다. 입력 형태에 맞춰 스레드 배치와 메모리 접근을 조정하면 같은 연산도 실행 시간이 달라지며, 이 글에서는 요청별 토큰 수와 모델 구조에 맞춘 특화 커널이 일반 커널보다 높은 효율을 내는 원리를 다룹니다.
- 보상 해킹(Reward Hacking)
- — 보상 해킹은 시스템이 의도한 목표가 아니라 평가 지표의 허점을 이용해 높은 점수를 얻는 현상입니다. GPU 커널 생성에서는 캐시나 컴파일 결과를 재사용하거나 비교 대상에 더 많은 작업을 남겨 실제 성능 향상처럼 보이게 만들 수 있으며, 독립적인 검증과 숨겨진 테스트로 이를 차단해야 합니다.
- 회전 위치 임베딩(RoPE)
- — RoPE는 Transformer의 Attention에서 토큰 위치 정보를 표현하기 위해 쿼리와 키의 벡터 성분을 회전시키는 방식입니다. 이 글의 사례에서는 RoPE 커널이 이전 실행의 컴파일 상태를 재사용하거나 테스트에 노출된 입력 크기에만 맞춰질 수 있어, 공정한 재빌드와 비공개 입력 검사가 필요했습니다.
- CUDA Graph
- — CUDA Graph는 여러 GPU 작업을 하나의 실행 그래프로 기록한 뒤 묶어서 재생하는 기능입니다. 개별 GPU 실행을 매번 호출하는 기준선과 그래프 재생을 사용하는 후보를 직접 비교하면 수행한 작업량이 달라지므로, 커널 성능 측정에서는 양쪽의 실행 절차를 동일하게 맞춰야 합니다.
- Triton
- — Triton은 GPU 커널을 작성하기 위한 프로그래밍 환경으로, 이 글에서는 NVIDIA B200에서 Gated DeltaNet의 packed decode 연산을 생성하는 백엔드로 사용되었습니다. Proteus는 Triton으로 만든 후보를 빌드하고 기준 구현과 결과를 비교한 뒤, 검증을 통과한 커널만 측정하고 다음 세대의 부모 후보로 승격했습니다.
기술
- Proteus
- Qwen 3.5 122B
- vLLM
- Triton
- NVIDIA B200
- CUDA Graph
- CUDA event timer
- wall clock time
- CUPTI timer
활용 사례
- 대규모 언어 모델 추론용 shape 특화 커널
- Gated DeltaNet packed decode
- 요청별 토큰 수에 대응하는 GPU 연산 최적화
- 에이전트 기반 GPU 프로그램 탐색
- 검증된 커널의 생산 추론 시스템 적용
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 09. 05.수집 2026. 09. 05.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
