챕터별 상세
Encode AI 소개와 활동 배경
Encode AI는 청년 주도의 AI 정책 옹호 단체로 시작하여 현재는 AI 안전과 투명성을 위한 공공 교육 및 입법 활동을 수행하는 비영리 기구이다. 캘리포니아의 프론티어 AI 투명성 법안인 SB 53의 초안 작성을 도왔으며, 거대 AI 기업들의 로비에 맞서 공공의 이익을 대변하는 역할을 한다. 단체는 대학생들이 주축이 되어 설립되었으며, 현재는 전문적인 정책 연구와 입법 지원으로 활동 범위를 넓혔다.
Encode AI는 이전에 Encode Justice라는 이름으로 활동했습니다.
캘리포니아 SB 53 법안의 핵심 내용
SB 53 법안은 10^26 FLOP 이상의 연산량을 사용하여 학습된 프론티어 AI 모델을 개발하는 기업에 대해 네 가지 주요 의무를 부과한다. 첫째는 재앙적 위험에 대비한 안전 프레임워크 구축이며, 둘째는 시스템 카드 형태의 투명성 보고서 제출이다. 셋째는 중대한 안전 사고 발생 시 즉각적인 보고 의무이며, 마지막으로 내부 고발자 보호 조항을 포함하고 있다. 이 법안은 규제보다는 투명성 확보에 초점을 맞추어 기업들이 스스로 안전 계획을 공개하고 준수하도록 유도한다.
SB 53은 캘리포니아에서 통과된 프론티어 AI 투명성 법안입니다.
프론티어 AI 모델의 위험과 규제 임계값
법안의 적용 대상이 되는 10^26 FLOP 임계값은 현재 가장 강력한 모델들을 포괄하기 위해 설정된 기준이다. 이 기준은 기술 발전에 따라 조정될 수 있으며, 대규모 컴퓨팅 자원을 투입하는 기업들이 사회적 책임을 지도록 만든다. 생물학적 무기 제조 지원이나 대규모 사이버 공격과 같은 재앙적 위험(Catastrophic Risks)을 방지하는 것이 법안의 궁극적인 목표이다. 소규모 스타트업이나 연구용 모델에 대한 과도한 규제를 피하기 위해 매출액 기준(5억 달러 이상) 등의 예외 조항도 논의되었다.
FLOP은 모델 학습에 사용된 총 연산량을 의미합니다.
내부 고발자 보호와 기업의 책임
AI 기업 내부에서 안전 문제를 인지한 엔지니어들이 보복에 대한 두려움 없이 문제를 제기할 수 있도록 법적 보호 장치를 마련했다. 기존 캘리포니아 법은 법률 위반 사항에 대해서만 보호를 제공했으나, SB 53은 공공 안전에 중대한 위협이 되는 사안에 대해서도 보호 범위를 넓히려 시도했다. 비록 입법 과정에서 일부 조항이 완화되었지만, 기업이 안전 계획을 허위로 보고하거나 사고를 은폐하는 것을 방지하는 강력한 수단이 된다. 이는 기업 내부의 안전 문화를 개선하고 투명성을 실질적으로 높이는 데 기여한다.
내부 고발자 보호는 조직의 투명성을 유지하는 핵심 기제입니다.
OpenAI의 구조 변경과 거버넌스 이슈
OpenAI가 비영리 구조에서 영리 목적으로 전환하려는 움직임에 대해 시민 사회의 우려가 크다. Encode AI는 OpenAI의 미션인 '인류를 위한 안전한 AI 개발'이 이윤 추구보다 우선시되어야 함을 강조하며 거버넌스 감시 활동을 펼치고 있다. 기업이 스스로 설정한 안전 가이드라인을 상황에 따라 임의로 변경하는 '절차적 오류'를 방지하기 위한 외부 감시의 중요성을 논의한다. 투명성 보고서가 단순히 홍보 수단으로 전락하지 않도록 독립적인 감사와 검증 체계가 필요하다.
OpenAI는 최근 비영리 이사회의 통제권을 축소하는 방향으로 구조 개편을 논의 중입니다.
AI 거버넌스의 미래와 남은 과제
현재의 투명성 중심 규제에서 나아가 실질적인 안전 표준과 검증 기술의 발전이 필요하다. 벤치마크 테스트가 포화 상태에 이르렀으며, 모델의 자율성이나 위험도를 측정하는 더 정교한 평가 도구가 부족한 실정이다. 정부 기관 내에 AI 기술을 이해하고 규제를 집행할 수 있는 전문 인력을 확보하는 것이 시급한 과제이다. 또한 AI로 인한 일자리 변화와 아동 안전 등 사회적 영향에 대한 정책적 대응도 병행되어야 한다.
거버넌스는 기술적 안전뿐만 아니라 사회적 영향력 관리까지 포함합니다.
용어 해설
- 프론티어 모델(Frontier Model)
- — 현재 기술 수준에서 가장 뛰어난 성능을 가진 대규모 AI 모델을 의미합니다. 대규모 컴퓨팅 자원과 데이터를 투입하여 학습되며, 잠재적으로 예측 불가능한 위험을 초래할 수 있어 특별한 관리 대상이 됩니다.
- 부동 소수점 연산(FLOP)
- — 컴퓨터가 수행하는 부동 소수점 연산 횟수를 나타내는 단위입니다. AI 모델의 학습에 투입된 총 연산량을 측정하여 모델의 규모와 성능을 가늠하는 척도로 사용됩니다.
- 시스템 카드(System Card)
- — AI 모델의 성능, 한계, 안전성 테스트 결과 등을 투명하게 공개하는 문서입니다. 모델의 작동 방식과 잠재적 위험 요소를 사용자 및 규제 기관에 알리는 역할을 합니다.
- 내부 고발자 보호(Whistleblower Protection)
- — 조직 내부의 부정부패나 위험 요소를 외부에 알린 사람을 보복으로부터 법적으로 보호하는 제도입니다. AI 기업 내에서 안전 문제를 제기하는 엔지니어들을 보호하여 투명성을 높이는 데 기여합니다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 02. 19.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
