Salesforce의 AI 투명성 강화: 모델 카드(Model Cards) 도입과 활용

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Salesforce는 AI 기술 개발 및 배포 과정에서 책임감, 투명성, 포용성을 핵심 원칙으로 삼는다. 이 원칙을 실현하기 위해 AI 모델의 성능 특성과 한계를 표준화된 문서로 정리한 '모델 카드(Model Cards)'를 도입한다. 모델 카드는 AI 모델의 입력, 출력, 권장 사용 환경, 윤리적 고려 사항을 명시하여 사용자에게 신뢰를 제공한다. 현재 Einstein Platform, CodeT5, BLIP2 등 다양한 모델에 대한 카드를 제공하며, Einstein Discovery를 통해 고객이 직접 모델 카드를 생성할 수 있는 도구도 지원한다.

대상 독자

AI 모델을 개발하거나 배포하는 개발자 및 기업 담당자

의미 / 영향

모델 카드와 같은 표준화된 문서화 방식은 AI의 블랙박스 문제를 완화하고, 기업이 AI 기술을 도입할 때 발생할 수 있는 윤리적 리스크를 사전에 관리할 수 있게 한다. 이는 산업 전반에서 AI에 대한 신뢰를 높이는 중요한 표준으로 자리 잡을 전망이다.

섹션별 상세

AI 모델의 투명성을 높이기 위해 구글의 선구적인 연구를 바탕으로 모델 카드(Model Cards)를 표준화하여 도입한다. 모델 카드는 식품의 영양 성분표처럼 모델의 작동 방식, 입력 및 출력 데이터, 최적의 사용 조건, 윤리적 고려 사항을 명확히 기술한다.

모델 카드는 개발자, 고객, 정책 입안자 등 다양한 이해관계자가 AI 모델이 개인과 사회에 미치는 영향을 이해하도록 돕는다. 이를 통해 AI 기술의 책임 있는 사용과 신뢰 구축을 목표로 한다.

현재 Einstein Platform, CodeT5, BLIP2, Marketing Cloud Einstein 등 다수의 모델에 대한 모델 카드가 공개되어 있다. 사용자는 Salesforce의 Compliance 페이지에서 최신 버전의 모델 카드를 확인할 수 있다.

Einstein Discovery 내에 모델 카드 생성기를 제공하여 고객이 자체 모델에 대한 카드를 직접 생성할 수 있도록 지원한다. 이는 기업이 자사 AI 모델의 투명성을 스스로 관리하고 고객과 소통할 수 있는 환경을 조성한다.

실무 Takeaway

AI 모델 배포 시 모델 카드(Model Cards)를 활용하여 모델의 성능, 한계, 윤리적 고려 사항을 표준화된 방식으로 문서화한다.
Einstein Discovery의 모델 카드 생성기를 사용하여 고객 맞춤형 AI 모델에 대한 투명성 보고서를 직접 작성하고 관리한다.