과학적 설계는 후보 공간이 매우 크고 평가가 비싸서, 생성 모델이 만든 후보를 모두 실험하기 어렵습니다. LDM은 LLM의 구조화된 후보 생성 능력과 Gaussian Process 기반 surrogate의 경험적 보상·불확실성 추정을 결합해 다음에 계산하거나 실험할 대상을 정합니다. AutoResearch, 항체 설계, 분자 최적화에서 LLM-only 또는 기존 Bayesian optimisation보다 큰 개선을 기록해 open-ended search에 필요한 탐색과 자원 배분을 하나의 순환 과정으로 묶었습니다.
핵심 기여
생성 모델과 경험적 가치 모델의 결합
LDM은 생성 foundation model이 구조화된 후보를 만들고 수정하도록 하면서, Gaussian Process surrogate가 관측된 실험 결과로 후보의 예측 보상과 epistemic uncertainty를 계산하도록 구성됩니다. acquisition function은 두 값을 이용해 후보를 더 발전시키거나 외부 평가에 보낼 우선순위를 정합니다. 이 구조는 언어 모델의 likelihood를 외부 과학적 성능의 대리값으로 간주하지 않고 실제 관측을 검색 신호로 사용합니다.
Open-ended search를 위한 동적 탐색 경계
LDM은 고정된 후보 목록 안에서만 순위를 매기지 않고, LLM의 context와 inference 설정을 바꿔 현재 도달 가능한 search support를 확장하거나 재구성합니다. 현재 표현으로 접근할 수 없던 후보군은 discovery를 통해 모델링 가능한 영역으로 들어오고, 이후 exploration과 exploitation의 대상이 됩니다. 이 구분으로 기존 영역의 불확실한 후보 평가와 새로운 설계군 발굴을 서로 다른 검색 작동으로 다룹니다.
Acquisition-tilted inference-time search
LLM이 먼저 후보 풀을 샘플링하면 각 후보의 acquisition score를 계산하고, deterministic top-b 선택 또는 지수 가중치 기반 stochastic 선택으로 평가 대상을 정합니다. 후보 풀 크기 N은 추가 추론과 surrogate 평가를 늘려 유한 풀 근사를 개선하는 Test-Time Compute 조절값으로 작동합니다. 따라서 계산량이 모델의 자기평가가 아니라 예측 보상과 불확실성에 따라 배분됩니다.
세 가지 과학 설계 영역에서의 검증
LDM은 neural-network training program search, 항체 CDRH3 sequence design, KRAS G12D 대상 small-molecule multi-objective optimisation에 적용됩니다. AutoResearch에서는 LLM-only reflection보다 validation BPB 감소량이 약 2.4배 컸고, 항체 설계에서는 200회 평가 뒤 LLM-only reflection보다 평균 binding energy가 18.2% 낮았습니다. 분자 최적화에서는 LLM-only reflection 대비 Pareto front hypervolume이 62.4%, classical Bayesian optimisation 대비 63.1% 증가했습니다.
탐색 경험의 모델 내재화와 후회 분석
LDM-TTS는 acquisition value로 재가중한 후보와 선택 이유를 학습 데이터로 저장하고, 반복 검색에서 얻은 정책을 생성 모델의 파라미터에 Fine-tuning으로 증류합니다. 이 과정은 한 과제 안에서 관측에 따라 갱신하는 빠른 검색 루프와 여러 과제의 경험을 누적하는 느린 학습 루프를 분리합니다. 이론적으로는 discovery gap, GP 기반 optimization error, tilted sampling shortfall을 나눠 LLM proposal의 support와 확률 배분이 성능에 미치는 경로를 구분합니다.
핵심 아이디어 이해하기
일반적인 LLM reasoning은 여러 답을 생성한 뒤 저렴하고 반복 가능한 verifier로 정답을 고르는 방식에 가깝습니다. 그러나 과학적 설계에서는 후보 하나의 성능을 simulation이나 실험으로 확인하는 비용이 크고, 모든 후보를 평가할 수 없습니다. 따라서 모델이 그럴듯하다고 판단한 후보가 실제 binding energy나 training efficiency도 높다고 볼 수 없으며, 적은 관측으로 다음 평가 대상을 정하는 별도 가치 신호가 필요합니다.
LDM은 이 문제를 LLM의 후보 생성과 Bayesian optimisation의 surrogate 추정을 연결해 처리합니다. LLM은 현재 context에서 프로그램, 항체 서열, 분자 같은 구조화된 후보 풀을 만들고, Gaussian Process는 지금까지의 설계·보상 쌍을 입력으로 후보별 예측 평균 μ와 epistemic uncertainty σ를 산출합니다. UCB를 예로 들면 acquisition value는 at(x)=μt(x)+βtσt(x)로 계산되며, 평균이 높거나 관측이 부족한 후보가 다음 평가 대상으로 부상합니다.
이 값은 단순한 사후 필터가 아니라 추론 계산과 실험 예산을 함께 조절합니다. 후보 풀에서 각 점수의 지수값을 가중치로 바꾸고, deterministic top-b 또는 stochastic Gumbel-top-b 방식으로 입력 후보를 고른 뒤 외부 evaluator의 보상을 받습니다. η=0이면 acquisition을 무시하고 후보를 균등하게 고르지만 η가 커질수록 높은 acquisition 후보에 선택 확률이 집중되므로, 같은 생성 모델에서도 탐색 정책이 달라집니다.
LDM의 discovery는 이미 표현 가능한 후보를 평가하는 exploration과 다릅니다. LLM이 새로운 parameterisation이나 설계군을 context에 추가해 현재 surrogate가 다룰 수 있는 search support 자체를 바꾸면, 기존에 도달하지 못했던 unknown unknowns가 known unknowns로 들어옵니다. 이후 surrogate의 불확실성을 줄이는 평가와 예측 보상이 높은 후보의 선택이 이어지면서 discovery, exploration, exploitation이 순환합니다.
관련 Figure
Diagram
첫 번째 패널은 autoregressive token generation이 Query에서 Answer를 만드는 흐름을 나타내고, 두 번째 패널은 여러 후보를 생성한 뒤 Solution과 Verifier로 선택하는 reasoning 구조를 나타냅니다. 세 번째 패널의 LDM은 Query에서 출발해 Design과 Experiment를 순환하고, 실험 Observation을 다시 LDM에 넣어 Discovery를 이어갑니다. 본문이 말하는 차이는 저렴한 verifier로 정답을 고르는 reasoning에서 벗어나, 비용이 큰 외부 평가 결과를 사용해 후보 생성과 탐색 경계를 갱신한다는 점입니다.
LLM Chat, LLM Reasoning, Large Discovery Model의 발전 단계를 나란히 비교한 개념도입니다.
방법론
각 라운드 t에서 LDM은 지금까지 평가한 설계와 관측 보상으로 데이터셋 𝒟t를 구성하고, 후보 생성에 사용할 더 넓은 검색 context 𝒞t를 유지합니다. 생성 모델은 pθ,α(x∣Ct)에 따라 후보를 제안하며, θ는 모델 파라미터이고 α는 prompting, sampling, reasoning, refinement 및 inference-time compute 설정을 포함합니다. 이 proposal이 만드는 support가 현재 active decision domain이 되므로, LLM은 후보뿐 아니라 검색 가능한 영역도 결정합니다.
Gaussian Process는 관측된 설계·보상 데이터에 조건화되어 후보 x의 predictive mean μt(x)와 predictive uncertainty σt(x)를 계산합니다. UCB를 사용할 때 입력은 예측 평균과 불확실성이고, 연산은 두 항을 탐색 계수 βt와 결합하는 방식이며, 출력은 후보를 평가할 scalar acquisition value입니다. 평균 항은 성능이 높을 것으로 예상되는 후보를 선택하게 하고 불확실성 항은 관측이 부족해 정보 가치가 큰 후보를 선택하게 하므로, reward model의 단일 예측값보다 실험 의사결정에 직접 맞춰집니다.
이상적인 정책은 πt(x)=Zt−1pθ,α(x∣Ct)exp{ηat(x)}이며, Zt는 전체 설계 공간에서 지수 가중치를 정규화하는 값입니다. 실제로 Zt를 계산하지 않고 N개의 후보를 먼저 샘플링한 뒤 acquisition score를 재가중합니다. η가 0이면 후보 풀에서 균등 선택하고, η가 무한대로 커지는 한계에서는 acquisition이 가장 큰 best-of-N 후보를 고릅니다.
선택된 후보는 비용이 큰 black-box evaluator로 평가되고, 관측된 noisy reward가 𝒟t+1과 𝒞t+1에 추가됩니다. 성능이 정체되면 reflection feedback이 context에 들어가 LLM이 learning rate, width, depth 같은 parameterisation을 수정하거나 새로운 검색 차원을 추가합니다. 한 과제 안의 빠른 루프는 매 평가 뒤 surrogate와 후보 생성을 갱신하고, 여러 과제에서 모은 acquisition-reweighted trajectory는 LDM-TTS Fine-tuning을 통해 생성 모델의 느린 학습 루프로 전달됩니다.
주요 결과
AutoResearch에서는 각 후보를 train.py의 변경으로 만들고 5분 동안 작은 language model을 학습한 뒤 validation val_bpb를 측정했습니다. H100 실험에서 LDM은 615회 실험으로 validation BPB 0.93421에 도달했고, 그림의 Karpathy baseline은 H100에서 255회 실행 후 0.9767을 기록했으며 LDM의 validation-BPB 감소량은 LLM-only reflection보다 약 2.4배 컸습니다. 고정된 300초 예산에서 n-gram hash memory는 val_bpb를 0.0275 낮췄고, QK-norm은 0.0137, dim 768에서 640으로의 축소는 0.0109, windowed attention과 softcap은 0.0108, squared-ReLU는 0.0087, value embeddings는 0.0079, Muon optimiser는 0.0048만큼 낮췄습니다.
항체 CDRH3 설계에서는 길이 약 11의 서열을 20개 아미노산 조합인 20^11 공간에서 생성하고, Absolut! simulator로 lattice binding energy를 평가했습니다. LDM은 서열 proposal을 acquisition score로 재정렬해 제한된 평가 횟수 안에서 높은 결합 성능 또는 정보 가치가 있는 후보를 선택했습니다. 200회 평가 뒤 LDM의 평균 binding energy는 LLM-only reflection보다 18.2% 낮았으며, 낮은 binding energy가 더 나은 결과입니다.
분자 최적화에서는 KRAS G12D를 대상으로 여러 목적을 동시에 고려하고 Pareto front hypervolume을 측정했습니다. LDM은 LLM-only reflection보다 hypervolume을 62.4%, classical Bayesian optimisation보다 63.1% 높여, 새로운 molecular scaffold를 제안하는 생성 prior와 acquisition 기반 평가 배분을 함께 사용했습니다. 그림의 분자 궤적은 anchor core에서 시작해 proxy homology, Br consensus, CF3-cyclopropyl branch, C2F5 extension 등 구조 변화를 거치며 후보가 순차적으로 확장되는 과정을 나타냅니다.
추가 실험은 acquisition-guided mechanism, Test-Time Compute 규모, LLM-only와 BO-only 비교를 분리해 평가했습니다. 이론 분석은 평균 regret를 현재 reservoir가 최적점에 도달하지 못한 discovery gap, reachable 영역 안의 GP-UCB optimisation term, 유한 후보 샘플링으로 생기는 LDM sampling shortfall의 세 항으로 분해합니다. 따라서 LDM의 성능은 surrogate의 정확도만이 아니라 LLM이 좋은 설계 영역을 support에 포함하고 높은 acquisition 후보에 충분한 proposal mass를 배정하는지에도 좌우됩니다.
관련 Figure
Chart
H100 그래프에서 Karpathy baseline은 255회 실행 뒤 0.9767에 머물고, LDM은 615회 실험을 거쳐 0.93421에 도달합니다. LDM 곡선에는 Muon optimizer, value embeddings, n-gram memory, window와 softcap, width search 같은 변경점이 표시되어 있으며, 탐색이 정체된 뒤 reflection으로 search support를 바꾸는 단계가 나타납니다. 오른쪽 B200 단계는 59회 실험 뒤 0.902291에 도달한 결과를 표시해, LDM이 후보 생성·실험·관측 갱신을 반복하며 validation BPB를 낮추는 과정을 수치로 연결합니다.
AutoResearch에서 H100과 B200 환경의 실험 횟수에 따른 validation BPB 변화를 비교한 그래프입니다.
Diagram
그림은 r1의 anchor core에서 시작해 r7 proxy homology, r13 Br consensus, r19 CF3-cyclopropyl branch, r21 C2F5 extension 등 단계별 분자 구조 변화를 보여줍니다. 각 패널에는 dHV, dE, NN, logP와 같은 수치가 함께 표시되어 후보가 단순히 무작위로 바뀌는 것이 아니라 여러 분자 목적과 구조적 유사성을 고려해 갱신되는 흐름을 나타냅니다. 이는 본문에서 LDM이 molecular optimisation 중 새로운 scaffold와 치환기를 순차적으로 제안하고 acquisition-guided search로 Pareto front를 확장한다는 결과와 연결됩니다.
Direct-Softmax LDM의 주요 전환점에서 생성된 분자 구조와 각 단계의 구조 변화 수치를 배열한 그림입니다.
기술 상세
LDM은 생성 prior, probabilistic surrogate, model-based acquisition function의 세 요소로 구성됩니다. 생성 prior pθ,α(x∣Ct)는 도메인 지식과 구조 제약을 반영한 후보 분포이고, surrogate는 𝒟t의 설계·관측 보상으로 보상 함수의 posterior를 갱신합니다. acquisition value는 후보의 예상 성능과 epistemic uncertainty를 결합해 추가 추론·refinement·외부 평가에 자원을 배분하며, reward 자체가 아니라 현재 상태에서 다음 행동의 decision value를 나타냅니다.
정책은 획득 가치의 기대값을 높이되 생성 prior에서 지나치게 벗어나지 않도록 KL 정규화를 사용합니다. πt=argmaxq{Ex∼q[at(x)]−(1/η)KL(q∥pθ,α)}를 풀면 prior에 exp{ηat(x)}를 곱한 acquisition-tilted distribution이 나옵니다. η가 커지면 높은 acquisition 후보에 질량이 모이고, 작아지면 구조적으로 그럴듯한 생성 prior를 더 강하게 유지하므로, 입력 후보의 plausibility와 경험적 가치 사이의 이동 폭을 조절합니다.
Gaussian Process prior는 R(x)∼GP(m(x),k(x,x′))로 두며, m은 prior mean이고 k는 설계 사이의 상관을 나타내는 positive-definite kernel입니다. 관측 데이터로 posterior를 계산하면 μt(x)와 σt²(x)가 나오고, UCB는 atUCB(x)=μt(x)+βtσt(x)로 구성됩니다. 예를 들어 두 후보의 평균이 같다면 σ가 큰 후보가 더 높은 UCB를 얻어 추가 정보가 있는 실험으로 선택되며, βt를 키우면 uncertainty 항의 영향이 커집니다.
실제 inference-time search에서는 N개 후보를 생성하고 Pr(xt=x^t,i)=exp{ηat(x^t,i)}/∑jexp{ηat(x^t,j)}로 선택 확률을 계산합니다. deterministic 모드에서는 acquisition 상위 b개를 고르고 stochastic 모드에서는 Gumbel-top-b로 중복 없이 acquisition-weighted batch를 구성합니다. LDM-TTS는 같은 context에서 생성된 counterfactual 후보들의 acquisition 값과 선택 rationale을 기록한 뒤, acquisition weight를 반영한 autoregressive Fine-tuning으로 반복 검색의 의사결정 패턴을 생성 모델에 내재화합니다.
이론적으로 각 라운드의 regret는 전역 최적점과 현재 LLM reservoir support 안의 최적점 차이인 discovery gap, support 내부에서 최적 후보를 놓친 GP-UCB optimisation error, tilted proposal에서 샘플링한 데 따른 sampling shortfall로 나뉩니다. sampling shortfall은 acquisition tilt η가 커지거나 최고 acquisition 부근의 reservoir probability mass κt가 커질수록 감소합니다. 이 분해는 LLM이 새로운 유망 영역을 제안하는 역할과 surrogate가 현재 도달 가능한 후보의 평가 순서를 정하는 역할을 수학적으로 분리합니다.
한계점
실험은 세 영역 모두 in-silico 또는 digital-oracle benchmark에서 수행됐으며, wet-lab measurement를 evaluator로 사용하는 실제 배치는 후속 검증 과제로 남아 있습니다. Unknown-known 영역의 memory retrieval과 federated discovery는 구현하지 않고 미래 작업으로 남겼습니다. prefix value function을 이용한 beam search와 Monte Carlo Tree Search 같은 multi-step 변형의 전체 실험 평가도 수행 범위 밖에 있습니다.
실무 활용
LDM은 분자, 단백질 서열, 실행 가능한 프로그램처럼 후보 구조는 생성할 수 있지만 외부 평가 비용이 큰 설계 문제에 적용할 수 있습니다. 실제 구현에서는 LLM이 완성 후보를 직접 생성하거나 탐색 영역의 중심·반경·경계를 지정하고, Gaussian Process와 acquisition function이 제한된 평가 예산을 배분합니다. 논문은 세 가지 디지털 oracle 실험으로 가능성을 평가했으며 wet-lab 배치는 후속 검증 대상으로 남겨 두었습니다.
5분 단위 neural-network training program 실험에서 train.py의 구조와 hyperparameter search support를 반복적으로 수정하는 AutoResearch 루프
20^11 규모의 항체 CDRH3 서열 공간에서 binding energy가 낮거나 불확실성이 큰 후보를 우선 평가하는 항체 설계
KRAS G12D 대상 small-molecule 후보에서 여러 목적의 Pareto front hypervolume을 확장하는 분자 최적화
후보 풀 크기 N과 deterministic top-b 또는 Gumbel-top-b 선택을 조절해 Test-Time Compute와 병렬 평가 예산을 배분하는 검색 시스템
