인간의 설계 없이 스스로 진화하는 추론 구조: DAG 기반 자동 추론 전략 탐색 연구

실용적 조언

특정 도메인의 문제를 풀 때 고정된 CoT 프롬프트만 쓰지 말고, 문제의 특성에 맞는 DAG 구조를 탐색해 보는 것이 성능 향상에 도움이 된다.
컴퓨팅 자원이 부족한 경우 소형 모델(1.5B~3B)과 진화 알고리즘을 결합하여 효율적인 추론 파이프라인을 설계할 수 있다.

섹션별 상세

추론 전략을 방향성 비순환 그래프(DAG)로 인코딩하고 진화 연산자를 적용하여 최적의 구조를 탐색했다. 분해(decompose), 해결(solve), 검증(verify), 비교(compare)와 같은 추론 연산을 노드로 설정하고 정보 흐름을 간선으로 정의한 뒤, 돌연변이와 교차 연산을 통해 세대를 거듭하며 성능을 최적화했다. Qwen-2.5-1.5B 모델을 활용한 실험에서 시스템은 인간의 개입 없이도 독립적으로 병렬 분기 구조를 발견하는 성과를 거두었다.

진화된 토폴로지는 특정 조건에서 인간이 설계한 Tree-of-Thought(ToT) 구조와 동일한 0.720의 정확도를 기록했다. 이는 단순 선형 구조인 Chain-of-Thought(0.420)나 무작위로 생성된 DAG(0.360)보다 월등히 높은 수치이며, AI가 스스로 효율적인 사고 체계를 구축할 수 있음을 입증했다. 다만 합성 수학 문제라는 제한된 환경에서 진행되었으며, 기존의 최적화된 벤치마크를 뛰어넘지는 못했다는 한계도 명시됐다.

무료 Colab T4 환경에서 약 97분 만에 전체 실험이 완료될 정도로 효율적인 연산 비용을 보여주었다. 적은 컴퓨팅 자원과 1.5B라는 소형 파라미터 모델을 사용했음에도 불구하고 유의미한 추론 구조를 찾아냈다는 점이 주목받았다. 연구자는 5회의 반복 실험과 제한된 인구 규모 등 실험의 규모적 한계를 인정하며 더 넓은 탐색 공간에서의 추가 검증 필요성을 언급했다.

용어 해설

방향성 비순환 그래프(DAG): — 노드와 방향성이 있는 간선으로 이루어져 있으며 한 노드에서 시작해 다시 자기 자신으로 돌아오는 경로가 없는 그래프 구조이다. 이 프로젝트에서는 추론 연산을 노드로, 정보의 흐름을 간선으로 정의하여 복잡한 사고 과정을 구조화하는 데 사용됐다.
진화 알고리즘(Evolutionary Algorithm): — 생물의 진화 과정을 모방하여 돌연변이, 교차, 선택 등의 연산자를 통해 최적의 해를 찾아가는 탐색 알고리즘이다. 인간이 설계한 추론 구조 대신 AI가 스스로 가장 효율적인 사고의 연결망(토폴로지)을 찾아내도록 하는 데 적용됐다.
토폴로지(Topology): — 컴퓨터 네트워크나 데이터 구조에서 요소들이 연결된 물리적 또는 논리적 형태를 의미한다. 본 연구에서는 추론 단계들이 어떤 순서와 병렬 구조로 배치되어 최종 결론에 도달하는지에 대한 논리적 연결 구조를 뜻한다.

언급된 도구

Qwen-2.5-1.5B추천

추론 구조 진화 실험을 위한 베이스 언어 모델

Google Colab T4추천

저비용으로 실험을 수행하기 위한 하드웨어 환경

언급된 리소스

논문Evolved Reasoning Topologies Preprint