Claude를 활용해 오픈 소스 모델에게 CUDA 커널 작성법을 가르치는 방법

섹션별 상세

Agent Skill은 모델의 컨텍스트를 마크다운 지침이나 스크립트 형태의 파일로 정의하여 모델 간에 기능을 공유하고 리뷰할 수 있게 하는 실용적인 매체이다.

upskill 도구는 교사 모델(Claude)의 작업 수행 기록인 Trace를 분석하여 특정 도메인 지식이 담긴 SKILL.md 파일을 생성하고 이를 검증하기 위한 테스트 케이스를 자동으로 구축한다.

CUDA 커널 작성 벤치마크 결과, 소형 모델인 GLM-4.7-Flash는 스킬 적용 전 40%에서 적용 후 85%로 정확도가 크게 향상되어 고성능 모델의 지식 전이 효과를 증명했다.

스킬은 단순히 정확도만 높이는 것이 아니라, 동일한 결과를 얻기 위해 필요한 토큰 사용량을 줄여 반복적인 작업에서의 운영 비용을 최적화하는 데 기여한다.

사용자는 CLI를 통해 스킬 생성(upskill generate)과 여러 모델에 대한 병렬 평가(upskill eval)를 수행할 수 있으며, 생성된 스킬은 Claude Code, Cursor 등 다양한 에이전트 도구와 호환된다.

H100 GPU와 같은 최신 하드웨어에 최적화된 커널을 빌드하기 위해 compute capability 9.0 설정이나 공유 메모리 정렬 등 문서화하기 까다로운 도메인 전문 지식을 약 500토큰 내외의 스킬 파일로 압축하여 제공한다.