Kubernetes AI 환경에서 RBAC만으로 부족한 이유: 진정한 테넌트 격리 구현

섹션별 상세

01

RBAC는 API 요청의 승인 여부만 결정할 뿐, 컨테이너 탈옥이나 공유 API 서버의 취약점을 통한 테넌트 간 간섭을 막지 못합니다. 동일한 etcd 백엔드와 API 서버를 공유하는 구조적 한계로 인해 한 테넌트의 침해 사고가 클러스터 전체로 확산될 위험이 상존합니다. 따라서 논리적 구분인 네임스페이스를 넘어선 물리적 또는 아키텍처적 격리 방안이 필요합니다.

02

AI 워크로드는 NVIDIA GPU Operator와 같은 클러스터 범위의 권한을 요구하는 도구를 자주 사용하므로 권한 최소화 원칙을 지키기 어렵습니다. 특정 팀에 필요한 연산자를 설치할 때 부여되는 ClusterRole은 설계상 해당 팀의 네임스페이스를 넘어 클러스터 전체에 영향을 미치게 됩니다. 이러한 '권한 크리프(Permission Creep)' 현상은 보안 정책을 무력화하고 잠재적인 공격 경로를 제공합니다.

03

SUSE k3k 아키텍처는 호스트 클러스터 내에서 각 테넌트에게 독립적인 API 서버와 제어 평면을 제공하는 가상 클러스터 방식을 채택합니다. 테넌트는 가상 클러스터 내에서 관리자 권한을 가지며 자유롭게 CRD를 설치하거나 정책을 설정할 수 있지만, 이는 호스트 클러스터나 다른 테넌트에게 영향을 주지 않습니다. 이를 통해 보안 경계가 API 계층이 아닌 컨테이너 경계에서 형성되어 격리 수준이 획기적으로 높아집니다.

ClearML과 SUSE Rancher Prime, k3k가 결합된 통합 참조 아키텍처 다이어그램입니다. — Diagram하드웨어 인프라 위에 SUSE AI 계층이 놓이고, 그 위에서 k3k를 통해 생성된 가상 클러스터(Downstream Cluster)들이 독립적인 제어 평면을 가지고 실행되는 구조를 보여줍니다. ClearML Scheduler가 GPU 최적화 계층과 상호작용하며 자원을 할당하는 흐름을 확인할 수 있습니다.

04

ClearML은 k3k 가상 클러스터의 복잡한 운영 과정을 자동화하여 플랫폼 관리자의 부담을 줄이고 GPU 자원 활용도를 극대화합니다. 관리자는 ClearML UI에서 몇 분 만에 GPU 패스스루가 설정된 가상 클러스터를 생성하고 리소스 정책을 통해 테넌트별 쿼터를 강제할 수 있습니다. 결과적으로 개별 클러스터 구축의 높은 비용 없이도 완벽한 격리 환경을 제공할 수 있게 됩니다.