연준(FOMC) 성명서의 통화 정책 기조 해독을 위한 대형 언어 모델 기반의 델타 일관성 점수화 기법

연준 성명서의 미묘한 어조 변화는 수조 달러의 시장 가치를 움직이지만, 기존 AI 모델은 회의 간의 상대적 맥락을 파악하는 데 한계가 있었다. 이 논문은 라벨링된 데이터 없이도 LLM의 내부 표현과 시간적 선후 관계를 결합해 전문가 수준의 정책 기조 분석이 가능함을 보여주며, 이는 실제 인플레이션 지표 및 국채 금리와 매우 높은 상관관계를 나타낸다.

연준 성명서 분석에서 '매파적' 또는 '비둘기파적' 기조를 파악하는 것은 금융 시장에 매우 중요하다. 기존의 사전 기반 방식이나 지도 학습 방식은 단어 빈도에 의존하거나 개별 문장을 독립적으로 분류하는 데 그쳐, 문맥에 따른 미묘한 뉘앙스 변화나 이전 회의와의 상대적 차이를 놓치는 한계가 있었다.

DCS는 LLM의 임베딩(Embedding) 공간에 이미 이러한 정책적 맥락이 인코딩되어 있다는 가설에서 출발한다. 특히 '델타 일관성(Delta-Consistency)' 원리를 도입하여, 현재 성명서의 절대 점수와 이전 성명서의 절대 점수 차이는 두 성명서 간의 상대적 변화량과 일치해야 한다는 제약 조건을 학습 신호로 사용한다. 이는 별도의 정답 라벨 없이도 시간적 순서라는 구조적 정보만으로 모델을 최적화할 수 있게 한다.

이를 통해 모델은 단순히 특정 단어의 유무를 넘어, 정책 기조가 강화되는지 혹은 완화되는지의 흐름을 파악한다. 결과적으로 Llama-3나 Qwen과 같은 모델의 마지막 레이어 정보를 활용해 전문가 수준의 기조 판별 능력을 갖추게 되며, 이는 실제 인플레이션 추세나 시장 금리 움직임과도 일치하는 유의미한 수치로 나타났다.

동결된 LLM(Frozen LLM)의 마지막 토큰 히든 스테이트(Hidden States)를 추출하는 것에서 시작한다. 각 성명서에 대해 절대적 기조를 묻는 프롬프트와 이전 대비 변화를 묻는 상대적 프롬프트를 각각 입력하여 두 종류의 텍스트 표현 h_abs와 h_rel을 얻는다.

추출된 표현은 경량화된 이중 축 투영 모듈을 통과한다. 선형 변환 z = theta * h + b를 수행한다. [히든 스테이트 벡터 h를 입력으로] → [학습 가능한 가중치 theta와 내적 연산 후 편향 b를 더해] → [스칼라 값 z를 출력하며] → [이 값은 정책 기조의 강도를 나타내는 로짓(Logit)이 된다].

핵심 학습 목표인 델타 일관성 손실 L_delta는 절대 점수 차이와 상대 변화량 예측값의 오차를 최소화한다. [두 시점의 절대 점수 차이와 상대 변화 예측치를 입력으로] → [두 값 사이의 차이를 제곱하여 오차를 계산하는 연산을 거쳐] → [최종 손실 값을 산출하며] → [이 값이 최소화될 때 모델은 시간 흐름에 따른 일관된 기조 궤적을 학습하게 된다]. 또한 확신도 정규화를 추가해 점수가 0.5 근처에 머물지 않고 명확히 구분되도록 유도한다.

문장 단위 기조 분류 실험에서 DCS는 Qwen3-4B 모델을 백본으로 사용할 때 71.1%의 정확도를 기록했다. 이는 수작업 라벨로 학습된 RoBERTa(43.4%)나 사전 기반 방식(44.6%)은 물론, LLM을 직접 판사로 사용하는 LLM-as-judge 방식보다도 월등히 높은 성능이다.

경제 지표와의 상관관계 분석 결과, DeepSeek-R1-14B 기반의 DCS 점수는 CPI(소비자물가지수)와 0.6237, PPI(생산자물가지수)와 0.5530의 높은 스피어만 상관계수를 보였다. 이는 모델이 추출한 기조 점수가 실제 거시 경제 상황을 정확히 반영하고 있음을 시사한다.

국채 수익률과의 회귀 분석에서도 2년, 10년, 20년 만기 국채 금리 변동과 통계적으로 유의미한 연관성을 나타냈다. 특히 다른 베이스라인 모델들이 특정 만기에서만 유효했던 것과 달리, DCS는 모든 만기 구간에서 일관되게 시장의 정책 기조 수용도를 포착해냈다.

DCS 아키텍처는 동결된 LLM 백본과 그 위에 얹어진 얇은 선형 레이어로 구성된다. 모델의 가중치는 고정하고 마지막 레이어의 마지막 토큰 히든 스테이트만을 특징 벡터로 사용함으로써 연산 효율성을 극대화했다.

수학적 기반은 Contrast-Consistent Search(CCS)에서 영감을 얻었으나, 논리적 부정 대신 시간적 선후 관계를 대조 쌍으로 활용한다는 점이 차별화된다. 이는 텍스트의 논리적 구조가 아닌 시간적 흐름에 내재된 자기 지도 신호를 활용하는 방식이다.

학습 과정에서 델타 일관성 손실과 엔트로피 기반의 확신도 정규화 손실을 결합한 통합 손실 함수를 최소화한다. 초기에는 정규화 가중치를 낮게 설정해 시간적 구조를 먼저 학습하게 하고, 점진적으로 높여 절대 기조 점수의 분별력을 높이는 전략을 취한다.

학습 후에는 기조의 방향성(Polarity)을 확정하기 위해 소수의 예시 문장을 사용하는 사후 방향 고정 단계를 거친다. 이는 학습 과정에는 개입하지 않으며, 단지 출력된 점수의 부호를 경제적 의미에 맞게 조정하는 역할만 수행한다.