생성형 AI의 뿌리와 우생학: 다큐멘터리 'Ghost in the Machine'이 파헤친 기술의 역사

섹션별 상세

생성형 AI 모델인 Sora의 초기 테스트 과정에서 명시적인 프롬프트 없이도 인종차별적이고 성차별적인 이미지가 생성되는 심각한 결함이 발견됐다. 비치 감독은 이를 OpenAI에 보고했으나 기업 측은 수정 불가능한 사안이라며 무시하는 태도를 보였다. 이는 기술 개발사들이 모델의 윤리적 결함을 해결하기보다 기술적 성과와 마케팅에만 집중하고 있음을 보여준다.

'인공지능'이라는 용어는 1956년 존 매카시가 연구 자금을 확보하기 위해 고안한 마케팅 용어에서 출발했다. 다큐멘터리는 이 용어가 기술의 실체를 모호하게 만들고 대중에게 환상을 심어주는 도구로 사용되어 왔음을 비판한다. 명확한 용어 정의 없이 기술을 수용하는 태도가 현재의 무분별한 산업적 하이프를 조장했다는 분석이다.

현대 머신러닝의 기초가 되는 통계 도구들이 프랜시스 골턴과 칼 피어슨 같은 우생학자들의 연구에서 파생됐다. 골턴은 인종 간 우열을 가리기 위해 다차원 모델링을 사용했으며, 피어슨은 이를 바탕으로 로지스틱 회귀와 같은 핵심 알고리즘을 발전시켰다. 이러한 통계적 기법들이 인간의 지능과 특성을 기계적으로 측정 가능하다고 믿는 인종 과학에 뿌리를 두고 있다.

인간형 기계의 기계식 안구를 손으로 들고 있는 사진이다. — Photo다큐멘터리 'Ghost in the Machine'의 한 장면으로, 인간의 지능을 기계적으로 측정하고 재현하려는 시도를 시각적으로 상징한다. 기사에서 언급된 '인간의 뇌가 기계처럼 작동한다'는 우생학적 믿음과 기술적 시각을 연결하는 중요한 이미지이다.

AI의 편향성 문제는 단순히 '나쁜 데이터'의 유입 때문이 아니라 기술이 설계된 역사적 맥락과 철학에 깊이 박혀 있다. 다큐멘터리는 AI 연구자, 역사학자, 비판 이론가들의 인터뷰를 통해 기술 생태계 전반에 깔린 차별적 세계관을 폭로한다. 기술 발전을 가속화하려는 세력이 주장하는 사회적 이익이 실제로는 특정 계층의 편향을 강화할 수 있음을 경고한다.

용어 해설

우생학(Eugenics): — 인종이나 유전적 특성을 기준으로 인류를 개량하려는 유사 과학적 이론이다. 19세기 프랜시스 골턴에 의해 체계화되었으며, 현대 통계학 및 머신러닝의 기초가 되는 여러 수치화 기법의 역사적 배경이 되었다.
로지스틱 회귀(Logistic Regression): — 데이터가 특정 범주에 속할 확률을 0과 1 사이의 값으로 예측하는 통계 기법이다. 현대 머신러닝의 핵심 알고리즘 중 하나로, 과거 우생학자들이 인종적 특성을 분류하고 수치화하기 위해 발전시킨 도구에서 유래했다.
가비지 인 가비지 아웃(GIGO): — 쓰레기를 넣으면 쓰레기가 나온다는 뜻으로, 저품질의 데이터를 학습시키면 결과물도 저품질이 된다는 데이터 과학의 원칙이다. AI의 편향성 문제를 설명할 때 주로 사용되지만, 이 아티클에서는 설계 자체의 편향성을 강조하며 이 개념을 넘어선다.
다차원 모델링(Multidimensional Modeling): — 여러 변수 간의 관계를 동시에 분석하여 복잡한 현상을 설명하는 모델링 방식이다. 프랜시스 골턴이 유럽인과 아프리카인의 외모적 특성을 비교하고 수치화하는 과정에서 사용한 기법으로 언급된다.

기술

OpenAI Sora
Logistic Regression

활용 사례

AI 편향성 분석
기술 역사 연구

언급된 리소스

DemoGhost in the Machine (Kinema)