AI 모델 공급망 보안: 단순 서명을 넘어선 입력 데이터 추적의 중요성

작성자의 분석에 대해 대체로 공감하는 분위기이며, 특히 초기 컨테이너 보안과의 비교가 적절하다는 평가가 있다.

• 모델 배포 시 SBOM을 함께 생성하여 학습에 사용된 데이터셋과 베이스 모델의 해시값을 기록하십시오.
• CI/CD 파이프라인에서 각 단계의 출력을 Attestation으로 남겨 신뢰 사슬을 구축하십시오.

증명(Attestation)

— 디지털 자산의 무결성과 출처를 확인하기 위해 발행되는 암호화된 증명서이다. 모델이나 데이터셋이 특정 보안 검사를 통과했음을 보증하며, 공급망 보안에서 신뢰 사슬을 형성하는 핵심 요소로 작용한다.

소프트웨어 자재 명세서(SBOM)

— 소프트웨어를 구성하는 모든 컴포넌트와 그 관계를 명시한 목록이다. AI 모델의 경우 학습에 사용된 베이스 모델, 데이터셋, 라이브러리 등의 이력을 추적하여 보안 취약점이나 라이선스 문제를 관리하는 데 필수적이다.

다이제스트 수준 검증(Digest-level Verification)

— 데이터나 파일의 고유한 해시값(Digest)을 비교하여 변경 여부를 확인하는 가장 정밀한 검증 방식이다. 파일 이름이 같더라도 내용이 1비트라도 다르면 해시값이 변하므로, 모델 학습 파이프라인의 각 단계에서 데이터 변조를 원천 차단한다.