적자생존 코드: Sakana AI, Core War에서 LLM 기반의 '붉은 여왕' 진화 실험 공개

핵심 요약

Core War는 1984년에 도입된 경쟁형 프로그래밍 게임으로, '워리어(Warrior)'라 불리는 어셈블리 프로그램들이 가상 컴퓨터의 제어권을 놓고 싸운다. Sakana AI는 LLM을 사용하여 이러한 프로그램들이 정적인 벤치마크가 아닌, 끊임없이 변화하는 상대에 맞춰 진화하는 'Digital Red Queen(DRQ)' 알고리즘을 개발했다. 이 과정에서 자기 복제, 데이터 폭격, 다중 스레딩과 같은 정교한 전략이 자율적으로 출현하며 생물학적 진화와 유사한 양상을 보인다. 연구 결과, LLM 기반의 진화는 튜링 완전한 환경에서 복잡한 자기 수정 코드 역학을 생성하며 사이버 보안과 같은 실세계 적대적 환경에서의 AI 진화를 연구할 수 있는 샌드박스를 제공한다.

배경

Assembly Language 기초, LLM 기반 코드 생성 이해, 진화 알고리즘 개념

대상 독자

AI 연구원, 사이버 보안 전문가, LLM 에이전트 개발자

의미 / 영향

AI 에이전트가 통제된 환경에서 스스로 전략을 고도화하는 과정을 입증함으로써, 미래의 자율형 보안 시스템이나 복잡한 시스템 최적화에 LLM이 기여할 수 있는 가능성을 제시한다. 특히 사이버 보안 분야에서 공격과 방어의 연쇄적 진화를 시뮬레이션하는 데 유용하다.

섹션별 상세

Core War 환경에서의 LLM 기반 진화: Core War는 Redcode라는 특수 어셈블리 언어를 사용하는 가상 머신 환경으로, 코드와 데이터가 동일한 주소 공간을 공유하는 튜링 완전한 시스템이다. Sakana AI는 LLM을 진화의 동력으로 삼아, 워리어 프로그램들이 상대방을 무너뜨리고 시스템을 장악하기 위해 스스로 코드를 수정하고 최적화하도록 유도했다. 이 과정에서 단순한 코드 생성을 넘어, 환경의 제약 조건 내에서 생존을 위한 복잡한 논리 구조가 형성된다.

Digital Red Queen(DRQ) 알고리즘의 메커니즘: DRQ 알고리즘은 매 라운드마다 새로운 워리어를 시뮬레이션에 도입하여 다중 에이전트 간의 적대적 경쟁을 유발한다. 고정된 목표가 아니라 계속해서 강해지는 상대방에 대응해야 하므로, 프로그램들은 멈추지 않고 진화해야 하는 '붉은 여왕(Red Queen)' 역학에 놓이게 된다. 실험 결과, 라운드가 진행될수록 LLM은 더 견고한 전략을 발견하며, 서로 다른 코드 구현임에도 불구하고 유사한 고성능 행동으로 수렴하는 '수렴 진화' 현상이 관찰되었다.

자율적 전략의 출현과 실무적 의의: 진화 과정에서 자기 복제(Self-replication), 특정 지점을 공격하는 데이터 폭격(Data bombing), 대규모 멀티스레딩 등 고도의 전략이 인간의 개입 없이 출현했다. 이러한 결과는 AI 에이전트가 사이버 보안과 같은 적대적 환경에서 어떻게 진화하고 적응할 수 있는지를 분석하는 안전한 실험실 역할을 한다. Sakana AI는 관련 기술 보고서와 코드를 공개하여 연구 공동체가 이 샌드박스를 활용할 수 있도록 지원한다.

</> 코드 예제 포함

실무 Takeaway

정적 벤치마크 대신 적대적 경쟁 환경을 구축하여 AI 모델의 지속적인 성능 향상과 적응력을 유도할 수 있다.
LLM은 튜링 완전한 저수준 언어(Redcode) 환경에서도 복잡한 자기 수정 로직을 생성하고 최적화하는 능력을 보유한다.
사이버 보안 분야에서 공격 및 방어 에이전트의 진화 양상을 예측하기 위한 시뮬레이션 도구로 Core War와 같은 샌드박스를 활용 가능하다.