딥러닝을 이용한 정확하고 확장 가능한 교환-상관 범함수

화학 및 재료 과학의 핵심 도구인 DFT는 정확도와 계산 비용 사이의 고질적인 트레이드오프 문제를 안고 있었다. Skala는 딥러닝을 통해 저렴한 계산 비용을 유지하면서도 고비용 하이브리드 범함수를 능가하는 정확도를 달성하여, 실험실 수준의 예측을 컴퓨터 시뮬레이션으로 대체할 수 있는 길을 열었다.

기존의 DFT 범함수들은 '야곱의 사다리'라고 불리는 계층 구조를 따르며, 정확도를 높이기 위해 점점 더 복잡하고 계산량이 많은 물리적 성분(예: Hartree-Fock 교환 에너지)을 추가해 왔다. 특히 전자의 비국부적 상호작용을 포착하려면 계산 복잡도가 시스템 크기 N의 4제곱 이상으로 증가하는 한계가 있었다. Skala는 이 문제를 해결하기 위해 딥러닝의 '표현 학습' 개념을 도입했다.

Skala의 핵심 아이디어는 계산 비용이 저렴한 meta-GGA 수준의 국부적 특징들(전자 밀도, 기울기 등)을 입력으로 받되, 신경망 내부에서 격자점들 사이의 정보를 효율적으로 섞어 비국부적 효과를 스스로 학습하게 만드는 것이다. 이는 마치 CNN이 국부적인 픽셀 정보에서 시작해 레이어를 거치며 이미지 전체의 맥락을 파악하는 것과 유사하다.

특히 Skala는 모든 격자점 쌍을 직접 연결하는 대신, 원자 위치에 배치된 '거친 그리드'를 통신 허브로 활용한다. 각 격자점은 자신의 정보를 가까운 원자 노드에 전달하고, 원자 노드들끼리 정보를 교환한 뒤 다시 격자점에 뿌려주는 방식을 취한다. 이를 통해 계산 복잡도를 O(N³) 수준으로 억제하면서도, 기존에는 값비싼 하이브리드 범함수에서만 가능했던 정밀한 에너지 예측을 가능하게 했다.

Skala의 아키텍처는 크게 세 부분으로 구성된다. 첫째, 입력 표현 추출기(Input Representation Extractor)는 각 격자점 r에서 7개의 semi-local 특징 x[ρ]를 입력받아 MLP를 통해 고차원 벡터로 투영한다. 이때 스핀 순서에 무관한 불변성을 확보하기 위해 스핀 채널 순서를 바꾼 두 입력을 평균 내어 처리한다.

둘째, 비국부 상호작용 모듈(Non-local Interaction Module)은 L=3개의 레이어로 구성되며, 각 레이어는 다운샘플링-처리-업샘플링 과정을 거친다. 격자점의 특징 벡터 h_i를 입력으로 받아 [h_i → 구면 조화 함수와 방사 기저 함수의 텐서곱 → 원자 중심 노드로 집계(Downsampling)] 과정을 거쳐 거친 특징 H_j를 생성한다. 이후 [H_j → equivariant 선형 혼합 및 대칭 수축(Symmetric Contraction) → 고차 상관관계 추출] 연산을 수행하고, 다시 격자점으로 정보를 분산(Upsampling)시킨다. 대칭 수축 연산은 ν=3차 텐서곱을 통해 다체 상호작용(Multi-body interaction)을 모델링한다.

셋째, 출력 모델(Output Model)은 최종 비국부 특징을 스칼라 값으로 변환한다. 이 값은 scaled sigmoid 활성화 함수를 통과하여 0에서 2 사이의 값을 갖는 강화 인자(Enhancement Factor) f_θ가 된다. 최종 교환-상관 에너지 E_xc는 LDA 에너지 밀도에 이 f_θ를 곱한 뒤 전체 공간에 대해 적분하여 산출된다. [LDA 에너지 밀도 × f_θ → 적분 → E_xc] 과정을 통해 물리적 제약 조건인 Lieb-Oxford 하한선을 자연스럽게 만족하도록 설계되었다.

Skala는 주요 화학 벤치마크인 GMTKN55에서 2.8 kcal/mol의 가중 평균 절대 편차(WTMAD-2)를 기록했다. 이는 하이브리드 범함수 중 최고 수준인 ωB97M-V(3.23 kcal/mol)보다 우수한 성적이며, 특히 계산 비용이 훨씬 저렴한 semi-local 수준에서 달성되었다는 점에서 의의가 크다. 55개 하위 데이터셋 중 32개에서 기존 범함수들을 압도하는 성능을 보였다.

또한 원자화 에너지 테스트셋인 W4-17에서도 단일 참조 시스템에 대해 0.92 kcal/mol의 평균 절대 오차(MAE)를 기록하며 '화학적 정확도'(1 kcal/mol 미만) 기준을 충족했다. 이는 기존 범함수들이 다중 참조 시스템이나 복잡한 결합 구조에서 오차가 커지던 문제를 데이터 기반 학습으로 극복했음을 보여준다.

효율성 측면에서 Skala는 GPU(NVIDIA A100) 사용 시 meta-GGA인 r²SCAN 대비 연산 시간이 30% 이내로 근접하는 높은 성능을 보였다. CPU 환경에서도 시스템 크기가 커질수록 하이브리드 범함수 대비 3~6배 빠른 속도를 유지하며 선형적인 확장성을 입증했다.

Skala의 아키텍처는 Atomic Cluster Expansion(ACE) 프레임워크를 딥러닝 격자 모델로 확장한 형태이다. 핵심은 비국부성을 처리하는 방식에 있는데, 일반적인 Graph Neural Network가 노드 간 직접 통신을 하는 것과 달리, Skala는 원자 중심의 Coarse Grid를 중간 매개체로 사용하는 'Neural Operator' 스타일의 접근을 취한다. 이는 격자점 수 G에 대해 O(G)의 복잡도를 보장하며, 원자 수 N에 대해서는 O(N)으로 확장된다.

수학적으로 비국부 레이어는 격자점 특징을 구면 조화 함수(Spherical Harmonics) 기저로 전개하여 다중극자 모멘트(Multipole Moments)와 유사한 표현을 생성한다. Symmetric Contraction 연산은 이러한 모멘트들의 고차 텐서곱을 계산하여, 명시적인 Hartree-Fock 교환 항 없이도 전자 간의 다체 상관관계를 효과적으로 근사한다. 훈련 과정에서는 B3LYP 밀도를 이용한 사전 훈련 후, PySCF를 연동한 on-the-fly SCF 미세 조정을 통해 밀도 기반 오차(Density-driven error)를 최소화했다.

구현 측면에서는 PyTorch 기반의 모델을 TorchScript로 내보내어 C++ 라이브러리인 GauXC와 통합했다. 이를 통해 기존의 Gaussian 기저 함수 기반 DFT 코드(Psi4, CP2K 등)에서 GPU 가속을 활용한 고속 추론이 가능하도록 설계되었다. 또한 Lieb-Oxford 하한선과 같은 물리적 제약 조건을 아키텍처 수준에서 강제하여, 데이터 범위를 벗어난 시스템에서도 물리적으로 타당한 결과를 내도록 보장한다.

논문은 Skala가 현재 D3 분산 보정(Dispersion Correction)을 명시적으로 포함하여 훈련되었으며, 비국부 상호작용의 장거리 성분인 분산력을 신경망이 직접 학습하도록 설계하는 것은 향후 과제로 남겨두었다고 언급했다. 또한 3d 및 4d 전이 금속에 대한 학습 데이터가 상대적으로 부족하여, 해당 영역에서의 범용성을 확보하기 위해 더 넓은 화학적 공간에 대한 고정밀 데이터 확장이 필요함을 명시했다.