Salesforce의 AI 투명성 강화: 모델 카드(Model Cards) 도입과 활용

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

Salesforce는 AI 기술 개발 및 배포 과정에서 책임감, 투명성, 포용성을 핵심 원칙으로 삼는다. 이 원칙을 실현하기 위해 AI 모델의 성능 특성과 한계를 표준화된 문서로 정리한 '모델 카드(Model Cards)'를 도입한다. 모델 카드는 AI 모델의 입력, 출력, 권장 사용 환경, 윤리적 고려 사항을 명시하여 사용자에게 신뢰를 제공한다. 현재 Einstein Platform, CodeT5, BLIP2 등 다양한 모델에 대한 카드를 제공하며, Einstein Discovery를 통해 고객이 직접 모델 카드를 생성할 수 있는 도구도 지원한다.

대상 독자

AI 모델을 개발하거나 배포하는 개발자 및 기업 담당자

의미 / 영향

모델 카드와 같은 표준화된 문서화 방식은 AI의 블랙박스 문제를 완화하고, 기업이 AI 기술을 도입할 때 발생할 수 있는 윤리적 리스크를 사전에 관리할 수 있게 한다. 이는 산업 전반에서 AI에 대한 신뢰를 높이는 중요한 표준으로 자리 잡을 전망이다.

섹션별 상세

AI 모델의 투명성을 높이기 위해 구글의 선구적인 연구를 바탕으로 모델 카드(Model Cards)를 표준화하여 도입한다. 모델 카드는 식품의 영양 성분표처럼 모델의 작동 방식, 입력 및 출력 데이터, 최적의 사용 조건, 윤리적 고려 사항을 명확히 기술한다.

모델 카드는 개발자, 고객, 정책 입안자 등 다양한 이해관계자가 AI 모델이 개인과 사회에 미치는 영향을 이해하도록 돕는다. 이를 통해 AI 기술의 책임 있는 사용과 신뢰 구축을 목표로 한다.

현재 Einstein Platform, CodeT5, BLIP2, Marketing Cloud Einstein 등 다수의 모델에 대한 모델 카드가 공개되어 있다. 사용자는 Salesforce의 Compliance 페이지에서 최신 버전의 모델 카드를 확인할 수 있다.

Einstein Discovery 내에 모델 카드 생성기를 제공하여 고객이 자체 모델에 대한 카드를 직접 생성할 수 있도록 지원한다. 이는 기업이 자사 AI 모델의 투명성을 스스로 관리하고 고객과 소통할 수 있는 환경을 조성한다.

근거

Salesforce는 Einstein Discovery 내에 모델 카드 생성기를 제공하여 고객이 자체 모델 카드를 생성할 수 있도록 지원한다. — We now provide a model card generator in Einstein Discovery, which enables our customers to generate their own model cards, as well.

용어 해설

Model Cards: — AI 모델의 성능 특성, 입력 및 출력 데이터, 권장 사용 환경, 윤리적 고려 사항 등을 표준화된 형식으로 기록한 문서. AI 시스템의 투명성과 책임성을 높이기 위해 사용된다.
Responsible AI: — AI 시스템이 안전하고 윤리적이며 투명하게 작동하도록 설계, 개발 및 운영하는 원칙과 관행. 기술적 성능뿐만 아니라 사회적 영향까지 고려한다.