나노기술 분자 최적화(NMO) 벤치마크: 양자 시뮬레이션 기반 과제와 구조적 제약 표현

대다수의 분자 생성 최적화 연구는 제약이 많은 약물 유사성 프록시와 대규모 제약 데이터에 의존하여 물리적 응용으로의 일반화가 제한되었다. NMO는 양자 시뮬레이션을 스코어링 오라클로 사용하고 분자‑전극 결합과 같은 실험적 제약을 강제하여 진정한 과학적 유용성을 기준으로 최적화 성능을 평가한다. 이로 인해 ML 방법이 실제 나노기술 응용에 적용 가능한 후보를 발견할 수 있는지를 직접 시험할 수 있는 표준화된 테스트베드가 마련된다.

분자 생성 최적화의 출발점은 분자 표현과 평가 오라클의 현실 적합성이다. 기존 벤치마크는 약물 유사성 등 간단한 프록시를 사용하여 모델이 대규모 제약 데이터에서 학습한 편향을 활용하도록 만들었다. 이 편향은 실제 물리적 결합 토폴로지나 표면 결합 같은 실험적 제약을 반영하지 못하므로, 최적화 결과가 실험적으로 유효하지 않을 가능성이 크다. NMO는 이 한계를 직접적으로 해결하기 위해 오라클을 반실험적·양자 기반 시뮬레이션으로 교체하고 분자‑전극 앵커를 최적화 변수에 포함시킨다. 이 접근은 단순한 수치적 최적화가 아니라 물리적으로 실현 가능한 구조를 찾는 문제로 변환한다. 결과적으로 최적화 알고리즘은 분자 구조가 전자·진동 전송 등에 어떻게 영향을 주는지 학습해야 하며, 데이터 기반의 편향을 넘는 일반화 능력이 요구된다. 표현 관점에서는 문자열 표기만으로는 앵커 위치와 발렌스 제약을 안정적으로 모델링하기 어렵다. GGS는 분자 조각을 노드로 하는 DAG를 구성하여 각 노드의 남은 결합 가능점과 전극 연결점을 명시적으로 관리한다. 이로 인해 교차 및 돌연변이 연산이 항상 화학적으로 유효한 자손을 생성하게 되고, 모델은 합성 가능한 분자 공간을 탐색하면서 전극 결합 토폴로지를 동시에 최적화할 수 있다.

전체 접근 방식은 세 가지 물리적 과제에 대해 동일한 인터페이스로 분자 문자열을 출력하면 백엔드가 이를 파싱·3D 최적화·양자 시뮬레이션을 수행해 단일 스칼라 적합도를 반환하는 자동화된 파이프라인으로 구성된다. 각 적합도는 물리량 𝒪_task(x)에 합성 접근성(SA) 페널티, 회전 결합 수에 대한 시그모이드 페널티, 그리고 하드 제약 Θ(x)를 곱한 형태로 계산된다. 하드 제약은 유효한 접합 형성 실패나 HOMO-LUMO 갭 임계값 미달 등 핵심 물리적 조건을 즉시 적합도 0으로 만든다. 표현 및 유전 연산 측면에서 GGS는 Group SELFIES 표기를 유지하되 내부적으로 DAG를 유지하여 유효성 보장을 구현한다. 구성 시 각 노드의 가용 결합점을 추적하고, 허용 가능한 연결만 수행하므로 파서 차원의 잘림(truncation)이 발생하지 않는다. 이 구조는 두쪽 결합(topology)이 요구되는 PH와 TE 과제에서 특히 중요하며, 교차·변이 연산이 항상 합성 가능하고 화학적으로 유효한 자손을 생성하도록 만든다. 최적화 알고리즘은 Genetic GFN 기반을 확장한 형태를 사용한다. 사전학습은 합성 사전에서 생성한 300,000개의 그래프를 사용하여 도메인 편향을 제거하는 방향으로 수행되며, Transformer 백본으로 토큰 시퀀스의 표현을 학습한다. 학습 안정성을 위해 Dynamic Cooldown은 무효 생성률이 상승할 때 유효한 문법 샘플을 재노출하여 구문 소실을 방지하고, Dynamic Exploration은 샘플링 분포를 평탄화하여 모드 붕괴를 완화한다. 추가로 latent에 분자 지표를 예측하는 다중 과제 손실을 주입하여 구조‑성질 관계에 대한 기초적인 직관을 모델에 제공한다.

평가 기준은 10,000 오라클 평가 예산과 다섯 개 연속 시드 평균으로 엄격하게 설정되었으며, 성능 지표로는 Top-10 AUC, Mean Top-10 Fitness, Mean Top-10 SA, 그리고 문헌 대비 우수성 여부를 나타내는 Relevance Indicator(RI)가 사용되었다. 기존 SOTA로 분류되는 문헌 기반 방법들(f-RAG, GenMol 등)은 NMO의 물리적 오라클과 구조적 제약에 적응하지 못해 대부분 과제에서 성능이 거의 0에 수렴했다. 이는 대규모 제약 데이터에서 얻은 편향이 NMO의 실제 물리 기준으로는 일반화되지 않음을 수치적으로 확인한 결과이다. 간단한 유전 알고리즘(molGA)은 SMILES 인터페이스에서 MO 과제에 대해 경쟁력 있는 성능을 보였고, GGS로 전환하면 TE와 PH에서 큰 성능 향상이 관측되었다. Genetic GFN 기반의 전체 방법은 Transformer, 안정성 메커니즘, Descriptor Injection을 포함할 때 TE에서 평균 AUC와 적합도를 최고로 달성했으며 PH와 MO에서도 문헌 성능을 능가하는 후보를 지속적으로 찾았다. 대표적 상위 후보로 TE 과제에서 ZT=8.5(SA=3.9), PH 과제에서 κ_ph=0.1 pW/K(SA=3.18), MO 과제에서 P=9.9(SA=4.35)가 보고되었고 이 값들은 해당 분야 문헌 값들을 초과했다. 세부적인 절차적 발견으로는 두쪽 결합 토폴로지에서는 앵커의 네이티브 모델링이 성능 결정 요인으로 작용했고, 합성 사전 기반의 도메인 무관 프리트레이닝이 편향을 줄여 일반화에 기여했다. 또한 MO 과제에서는 제약 데이터 편향이 초기에는 도움을 주었지만 GGS 전환과 보완 기법 적용을 통해 합성 가능성(SA)을 기준 이하로 낮추는 것이 실용적 후보 발굴에 핵심이었다.

전체 아키텍처는 입력으로 GGS 또는 SMILES 문자열을 받는 생성 모델과 자동화된 평가 파이프라인으로 구성된다. 파이프라인은 문자열 파싱 → 3D 구조 생성 및 기하 최적화 → xtb 기반 반실험적 양자 계산을 수행하여 물리량을 산출한다. 이 산출값은 적합도 함수에 들어가 SA 및 회전 결합 수에 대한 페널티와 하드 제약을 적용한 최종 스칼라 점수로 환산된다. GGS의 내부 동작은 그래프 구성과 발렌스 추적으로 요약된다. 입력 토큰은 미리 정의된 조각(fragment) 사전의 항목을 가리키고 그래프를 확장할 때마다 각 노드의 남은 결합 가능점이 갱신된다. 새로운 연결을 만들려면 대상 노드의 남은 결합 가능점이 충분해야 하며, 이 체크를 통과하지 못하면 해당 연결은 생성 과정에서 배제되므로 후처리 단계에서의 잘림(truncation)이 발생하지 않는다. 베이스라인 모델은 Genetic GFN 기반의 복합 구성이다. 사전학습은 300,000개의 무작위 GGS 그래프 데이터를 사용하여 Transformer 토큰 임베딩과 생성 정책을 초기화한다. 최적화 단계에서는 GFlowNet 기반의 샘플링 정책과 유전 연산을 병행하며, Dynamic Cooldown은 무효 생성률 임계치 초과 시 유효 구문 샘플을 다시 주입하여 catastrophic forgetting을 완화하고 Dynamic Exploration은 샘플링 분포 조정을 통해 모드 붕괴를 완화한다. Descriptor Injection은 모델의 latent에서 간단한 분자 지표(예: 회전 결합 수, 간이 전자적 지표)를 예측하는 보조 목표를 두어 구조‑성질 관계의 기초적 정보를 학습시키는 역할을 한다.

적합도 계산에는 반실험적 방법(xtb)이 사용되어 계산량과 정확도 사이의 절충이 존재한다. 특히 MO 과제의 상위 꼬리(P>15)에서는 xtb가 과대평가를 발생시킬 가능성이 보고되었고 DFT 수준에서 값이 작아지는 사례가 관찰되었다. PH 과제는 분자 길이를 임의로 늘려 인위적으로 낮은 열전도도를 얻는 퇴화적 영역이 존재하므로 벤치마크 프로토콜 수준에서 분자 길이 경계 허용 및 전산 비용으로 이를 제한한다. 조각 기반 접근은 라이브러리 설계에 따라 편향을 도입할 수 있으며, 본 논문은 이 편향을 명시적·통제 가능하게 유지하는 방법을 제안하지만 완전한 무편향을 보장하지는 않는다. 계산 자원의 한계로 인해 결과는 다섯 시드 평균으로 보고되어 통계적 검정력에 제한이 있으나 이는 고비용 시뮬레이션 환경에서의 표준 관행과 일치한다. 최종적으로 보고된 후보들은 설계상 실험적 검증이 필요하며, 벤치마크 성공은 추가 실험적 확인으로 완성되어야 한다.