Dolphin 에뮬레이터 프로젝트의 LLM 및 생성형 AI 기여 정책 수립 논의

섹션별 상세

JosJuice는 LLM이 인터넷의 방대한 데이터를 무분별하게 학습했기 때문에 닌텐도의 기밀 정보가 포함되었을 가능성이 높으며, 이를 이용한 코드가 프로젝트에 유입될 경우 법적 리스크가 발생한다고 지적했다.

iwubcode는 수학적 알고리즘이나 그래픽 처리 등 특정 분야에서 AI가 생산성을 획기적으로 높여준 실제 사례를 공유하며, 전면 금지보다는 맥락에 따른 유연한 적용이 필요하다는 의견을 냈다.

OatmealDome은 Chromium, Firefox, Linux 커널 등 주요 오픈소스 프로젝트의 AI 정책 사례를 제시하며, 자율 에이전트의 기여는 금지하되 인간이 검토하고 책임지는 방식의 가이드라인을 제안했다.

AdmiralCurtiss는 AI가 환경 파괴, 오정보 확산, 노동 가치 하락 등 사회적 해악을 끼친다는 윤리적 이유를 들어 AI 사용에 강한 거부감을 표명했으나, 현실적인 타협안으로서의 정책 수립에는 동의했다.

최종 제안된 정책은 핵심 에뮬레이션 코드 및 정확도 수정에는 LLM 사용을 전면 금지하고, 상당량의 AI 생성 코드가 포함된 PR은 반드시 라벨을 부착하며 기여자가 모든 책임을 지도록 규정했다.

논의 과정에서 'LLM'이라는 용어 대신 '생성형 AI'라는 보다 포괄적인 용어를 사용하자는 제안이 수용되었으며, 이는 향후 등장할 다양한 AI 도구들에 대응하기 위한 조치이다.

대형 언어 모델(LLM): — 방대한 양의 텍스트 데이터를 학습하여 인간과 유사한 문장을 생성하거나 코드를 작성할 수 있는 인공지능 모델이다. 오픈소스 프로젝트에서는 학습 데이터에 포함된 저작권 있는 코드나 기밀 정보가 유출될 가능성 때문에 논란이 된다.
기밀 정보(Confidential Information): — 기업이나 조직이 외부에 공개하지 않은 핵심 기술이나 문서이다. Dolphin 에뮬레이터 프로젝트의 경우, LLM이 닌텐도의 비공개 SDK나 기술 문서를 학습했을 가능성을 법적 리스크로 간주한다.
인간 참여형 시스템(Human-in-the-loop): — AI가 독립적으로 작업을 수행하는 것이 아니라, 최종 결과물을 인간이 검토하고 수정하며 책임을 지는 구조이다. 코드 기여 시 AI가 생성한 코드의 정확성과 보안성을 인간이 직접 검증해야 함을 의미한다.
자율 에이전트(Autonomous Agent): — 인간의 개입 없이 스스로 목표를 설정하고 코드를 작성하거나 수정하여 제출하는 AI 시스템이다. Dolphin 프로젝트는 이러한 에이전트의 직접적인 코드 기여를 금지하는 방향으로 논의를 진행했다.

기밀 정보(Confidential Information): — 기업이나 조직이 외부에 공개하지 않은 핵심 기술이나 문서이다. Dolphin 에뮬레이터 프로젝트의 경우, LLM이 닌텐도의 비공개 SDK나 기술 문서를 학습했을 가능성을 법적 리스크로 간주한다.
인간 참여형 시스템(Human-in-the-loop): — AI가 독립적으로 작업을 수행하는 것이 아니라, 최종 결과물을 인간이 검토하고 수정하며 책임을 지는 구조이다. 코드 기여 시 AI가 생성한 코드의 정확성과 보안성을 인간이 직접 검증해야 함을 의미한다.
자율 에이전트(Autonomous Agent): — 인간의 개입 없이 스스로 목표를 설정하고 코드를 작성하거나 수정하여 제출하는 AI 시스템이다. Dolphin 프로젝트는 이러한 에이전트의 직접적인 코드 기여를 금지하는 방향으로 논의를 진행했다.