과학적 발견을 위한 평가 기반 스케일링

LLM이 단순히 텍스트를 생성하는 것을 넘어 양자 컴퓨팅, 알고리즘 공학, 수학적 난제 해결 등 실제 과학적 발견의 도구로 활용될 수 있음을 증명했다. 특히 모델 자체의 크기를 키우는 것보다 '평가 피드백 루프'를 체계적으로 확장하는 것이 복잡한 최적화 문제 해결에 더 결정적일 수 있다는 새로운 연구 방향을 제시한다.

딥러닝 모델은 Gradient Descent를 통해 오차를 줄이며 학습하지만, 과학적 발견과 같은 복잡한 최적화 문제는 정답을 미리 알 수 없어 직접적인 학습이 어렵다. 기존의 LLM 기반 과학 연구는 단순히 여러 번 시도하거나(Best-of-N), 이전 결과를 한 번 수정하는 수준에 그쳐 지역 최적해(Local Optima)에 빠지기 쉬웠다.

SIMPLETES는 이 문제를 해결하기 위해 '평가(Evaluation)'를 핵심 엔진으로 삼는다. 마치 생물의 진화 과정처럼, 여러 개의 독립적인 탐색 경로(Global Width)를 동시에 실행하여 다양성을 확보하고, 각 경로 내에서 평가 피드백을 받아 수십 번 이상 반복 정제(Refinement Depth)하며, 매 단계마다 여러 후보 중 최적을 선택(Local Selection)하는 전략을 취한다.

이 과정은 Transformer의 Attention 메커니즘이 문맥을 파악하는 원리와 유사하게, 과거의 시도와 실패 기록을 문맥으로 활용하여 다음 시도의 성공 확률을 높인다. 결과적으로 모델은 단순한 추론을 넘어, 스스로 가설을 세우고 검증하며 더 나은 솔루션으로 수렴해가는 '탐색적 사고'를 수행하게 된다.

SIMPLETES는 평가 쿼리 예산 N을 세 가지 차원(C, L, K)으로 분배한다. [전체 예산 N] → [C x L x K 연산] → [최종 솔루션 도출] 순으로 작동하며, C는 병렬 궤적 수, L은 정제 단계, K는 단계별 후보 수를 의미한다.

핵심 메커니즘인 컨텍스트 구성 함수 Φ는 과거의 노드(솔루션, 점수, 메타데이터) 중 가장 유망한 것을 선택한다. RPUCG 알고리즘을 사용하여 [과거 노드의 점수와 자손의 성과 입력] → [탐색과 활용의 균형 계산] → [다음 프롬프트에 포함할 노드 결정] 과정을 거쳐 LLM이 최적의 문맥을 참조하게 한다.

학습 단계에서는 Trajectory-Level Post-training을 수행한다. [전체 궤적의 최대 점수 w 입력] → [궤적 내 모든 행동에 동일 가중치 부여 및 로그 확률 최적화] → [장기적 관점의 탐색 능력 강화] 순으로 모델을 미세 조정하여, 즉각적인 보상보다 최종적인 돌파구를 찾는 능력을 배양한다.

양자 회로 컴파일 도메인에서 SABRE 알고리즘 대비 CNOT 오버헤드를 21.7% 줄였으며, 특히 IBM Q20 하드웨어에서는 33.3%의 개선을 달성했다. GPU 커널 최적화에서는 TriMul 연산 속도를 H100 GPU 기준 1.122ms까지 단축하여 기존 인간 전문가 기록을 경신했다.

알고리즘 공학 분야에서는 LASSO 경로 계산 속도를 sklearn 대비 평균 14.08배 향상시켰다. 수학적 난제인 Erdős Minimum Overlap 문제에서는 0.380856이라는 새로운 세계 최고 기록을 발견하는 성과를 거두었다.

Ablation Study 결과, 단순히 정제 깊이(L)만 늘리는 것보다 병렬 탐색(C)을 조합하는 것이 성능 포화 문제를 해결하는 데 훨씬 효과적임이 입증되었다. 또한, 성공적인 궤적을 학습한 모델은 학습하지 않은 OOD(Out-of-Distribution) 과제에서도 기본 모델보다 높은 성능을 보였다.

SIMPLETES 아키텍처는 비동기 실행 엔진을 기반으로 하며, 생성 워커와 평가 워커 풀을 분리하여 파이프라인 효율성을 극대화했다. 보상 해킹을 방지하기 위해 생성된 코드 내의 지표를 믿지 않고, 격리된 환경(Docker)에서 독립적인 테스트 데이터를 사용해 점수를 재계산하는 검증 프로세스를 구축했다.

수학적 모델링을 통해 복잡한 문제 해결 시 병렬 탐색 수(C)가 신뢰도 확보를 위해 log(1/ε)에 비례하여 스케일링되어야 함을 이론적으로 증명했다. 이는 단순한 휴리스틱이 아닌 수학적 근거에 기반한 자원 배분 전략임을 시사한다.

프롬프트 구성 시 전문가의 힌트를 배제하고 순수하게 작업 지시와 과거 이력(피드백 포함)만을 제공하는 미니멀리즘 전략을 채택했다. 이는 특정 도메인에 종속되지 않는 범용적인 과학적 발견 프레임워크로서의 가능성을 보여준다.

성능이 빠르고 프로그래밍 가능한 평가 함수(Surrogate Evaluator)의 존재 여부에 크게 의존한다. 따라서 정답 여부를 즉각 확인하기 어려운 주관적 도메인이나 실제 실험실 환경(Wet-lab)이 필요한 분야에 바로 적용하기에는 한계가 있다. 또한 현재는 자원 배분 파라미터(C, L, K)를 수동으로 설정해야 하므로, 문제의 난이도에 따라 이를 동적으로 조절하는 지능형 스케일링 연구가 추가로 필요하다.