Partnership on AI, 새로운 유럽 운영위원회 창립 위원 발표

섹션별 상세

Partnership on AI는 유럽과 영국의 연구 역량 및 개인정보 보호 선도력을 활용하기 위해 첫 지역별 자문 기구인 유럽 운영위원회를 공식 출범했다. 위원회는 PAI의 140개 파트너 조직 중 유럽에 본사를 둔 25개 조직을 포함하여 개발자, 기업 리더, 시민 사회, 학계 간의 가교 역할을 수행한다.

운영위원회는 새로운 EU 실무 규범(Code of Practice)의 실질적인 구현 방안을 탐구하고 이것이 다른 글로벌 프레임워크와 어떻게 상호 보완될 수 있는지 논의한다. 특히 감사, 보증 메커니즘, 기업 위험 평가 및 투자자 공시를 포함하는 AI 가치 사슬 전반의 책임성 생태계 구축에 집중한다.

생성형 AI와 에이전트 AI(Agentic AI)의 신규 역량을 모니터링하기 위해 PAI가 곧 발표할 'AI 에이전트 모니터링 프레임워크'에 실질적인 기여를 할 예정이다. 또한 인간과 AI의 상호작용에서 발생하는 새로운 위험과 기회, 특히 동반자적 행동(Companionship behaviors)에 대한 고려 사항을 연구 과제로 다룬다.

창립 위원에는 Google DeepMind, OpenAI, Amazon 등 주요 기술 기업뿐만 아니라 Mozilla, Future of Life Institute, BBC, IKEA 등 다양한 분야의 리더들이 포함되어 다학제적 접근을 꾀한다. 위원들은 정책이 종이 위에만 머물지 않고 실질적인 도구와 감독 모델로 전환되어 공공의 신뢰를 얻을 수 있도록 협력한다.

용어 해설

AI 거버넌스(AI Governance): — AI 기술이 사회적 윤리와 법적 기준에 부합하도록 관리하고 통제하는 체계다. 위험을 최소화하면서 기술의 혜택을 극대화하기 위한 규칙, 프로세스, 조직 구조를 포함하며 신뢰할 수 있는 AI 발전을 위한 핵심 요소다.
에이전트 AI(Agentic AI): — 사용자의 세부적인 개입 없이도 스스로 목표를 설정하고 도구를 사용하며 복잡한 작업을 수행하는 자율적인 AI 시스템이다. 단순한 응답을 넘어 실행력을 갖추고 있어 새로운 보안 및 윤리적 관리 체계가 요구된다.
책임성 생태계(Accountability Ecosystem): — AI 개발부터 배포까지 모든 단계에서 투명성을 확보하고 결과에 대해 책임을 질 수 있도록 하는 감사, 보증, 공시 체계다. 기술적 오류나 편향이 발생했을 때 이를 추적하고 수정할 수 있는 사회적·기술적 장치를 의미한다.
동반자적 행동(Companionship Behavior): — AI가 인간과 정서적 유대감을 형성하거나 친구처럼 행동하는 특성이다. 인간의 심리에 미치는 영향이 크기 때문에 가스라이팅이나 과도한 의존성 같은 부작용을 방지하기 위한 윤리적 가이드라인이 필요하다.

기술

AI Agents Monitoring Framework

활용 사례

AI 규제 준수 가이드라인 수립
에이전트 AI 위험 모니터링
기업 AI 책임성 감사 체계 구축

언급된 리소스

문서Partnership on AI Homepage