TL;DR
작성자는 2014·2017·2020 빈티지의 10-K에서 추출한 정성적 특징을 LLM으로 채점하고 predictive database에 쿼리하여 보정된 확률과 특징별 기여도를 얻는 워크플로를 구성했다. 모델의 전체 정확도는 35%로 기본률 27%보다 높았지만 더 중요한 성과 지표는 순위로 상위 20개 포트폴리오가 연평균 20.6%를 기록해 시장 평균 7.9%를 능가한 점이었다. 특징을 6개에서 16개로 늘리자 정보 이득이 0.107에서 0.023으로 감소하여 약한 신호의 누적이 잡음으로 작용한 현상이 관찰되었고 Brier 0.181과 캘리브레이션 곡선은 확률 보정의 근거로 제시됐다. 다만 샘플 크기, 거래비용 미반영, 섹터 누수 및 LLM 채점의 후광 효과 가능성 등 여러 한계가 남아 추가 검증이 필요하다.
커뮤니티 반응
커뮤니티 반응은 관심과 회의가 혼재했다. 많은 참여자가 포인트인타임 데이터와 티커별 교차검증 같은 설계적 장점을 긍정했고 캘리브레이션 지표와 구체적 수치 제시를 재현성의 근거로 평가했다. 반면 표본 크기, 거래비용 미반영, 섹터 누수 가능성, LLM 채점의 후광 효과 등으로 인해 실제 투자 적용 가능성은 제한적이라는 지적이 다수 제기됐다. 몇몇 댓글은 특징 선택 과정의 상세, 변수 정규화와 드리프트 검증 절차를 추가로 요구하며 재검증 사례를 요청했다.
주요 논점
보정된 확률과 순위(ordering)를 활용하면 단일 결과 예측의 정확도보다 더 실질적인 투자 성과를 얻을 수 있다는 주장은 상위 20개 포트폴리오의 연평균 20.6% 수익으로 뒷받침된다.
전체 특징을 무작정 추가하면 약한 신호가 누적되어 정보 이득이 감소하고 성능이 저하된다는 주장은 정보 이득 수치의 감소(0.107→0.023)로 근거를 제시했다.
LLM으로 채점한 정성적 특징이 편향을 포함할 가능성이 존재하며 빈티지별 드리프트와 섹터 누수 문제는 추가 검증이 필요하다는 주장은 합리적 의심으로 남아 있다.
합의점 vs 논쟁점
합의점
- 캘리브레이션이 잘된 확률 예측은 순위 기반 의사결정에서 유의미한 지표로 사용될 수 있으며 Brier score와 캘리브레이션 곡선은 그 객관적 근거로 수용되었다.
- 포인트인타임 입력과 티커별 폴드 구성은 과대적합과 정보 누수를 줄이기 위한 필수적 설계라는 점에서 대부분의 토론자가 동의했다.
- 특징 선택은 성능에 결정적 영향을 미치며 약한 신호의 무분별한 추가는 잡음을 늘려 오히려 예측력을 떨어뜨릴 수 있다는 점에 공감이 형성되었다.
논쟁점
- LLM으로 채점한 정성적 등급이 이미 성과가 우수한 기업들에 대해 후광 효과를 만들어냈는지 여부는 재현 실험과 드리프트 분석 없이는 결론을 내리기 어렵다는 입장이 갈렸다.
- 백테스트의 결과가 2014–2026 기간에 유효했던 패턴을 보여줄 뿐 과거 시점에 실제로 예측 가능했는지 여부는 섹터 누수와 데이터 재구성 방식에 따라 달라진다는 점이 논쟁거리였다.
- 특징을 많이 포함하면 성능이 떨어진다는 관찰이 일반적 규칙인지, 특정 데이터셋과 채점 방식에만 적용되는지에 대해 검증 필요성이 제기되며 의견이 분화되었다.
실용적 조언
- 티커별로 교차검증 폴드를 구성하여 동일 종목이 학습과 검증에 동시에 포함되지 않도록 해야 과대적합 위험을 줄일 수 있다. 입력은 빈티지 시점만 사용하여 미래 정보 누수를 차단해야 하며 포인트인타임 인덱스 재구성이 필수적이다. 캘리브레이션 평가는 Brier score와 십분위 캘리브레이션 곡선으로 정량 검증하는 절차를 권장한다.
- 특징 추가 시 개별 정보 이득을 측정하여 약한 신호의 누적이 잡음으로 전환되는 지점을 식별해야 한다. 특징 상호상관을 사전에 제거한 다음 소수의 강한 신호로 성능을 검증하는 방식이 바람직하다. 또한 섹터 편향이나 드리프트 가능성을 체크하기 위해 빈티지별 성과 분포와 주요 섹터의 기여도를 분리해 확인해야 한다.
섹션별 상세
이미지 분석

이미지는 상위 20개 포트폴리오의 누적 수익과 전체 시장의 누적 수익을 시각적으로 비교하며 상위 그룹의 연평균 수익률(텍스트 기반으로 20.6%/yr)과 시장(7.9%/yr)을 강조한다. 표 부분은 엔진이 순위를 매긴 종목들과 빈티지, 총수익, 엔진의 판정(call) 및 실제 결과(outcome)를 나열하여 순위 기반 성과와 개별 사례의 결과를 동시에 보여준다. 이 시각 자료는 텍스트에 제시된 순위 기반 성능 주장과 캘리브레이션을 시각적 근거로 뒷받침하는 역할을 한다.
대시보드 형식의 스크린샷이며 상위 그룹과 시장의 누적 수익률 비교 바 차트와 상위 종목 목록이 표시되어 있다.
용어 해설
- Predictive database
- — 쿼리로부터 보정된 확률을 반환하고 각 특징의 기여도를 함께 제공하는 데이터 구조이다. 학습과정이 별도로 존재하지 않고 시점별 입력에 대해 즉시 확률 예측을 계산하는 방식이 핵심이다. 본문에서는 모델 파라미터를 따로 추정하지 않고도 점수와 캘리브레이션을 확보하는 수단으로 사용됐다.
- Point-in-time grading
- — 각 연도별 10-K 공시만 열람하여 해당 시점에 존재하던 정보로 품질 지표를 채점하는 절차이다. 미래 정보가 포함되지 않도록 빈티지별로 인덱스 멤버십과 입력을 재구성하는 것이 핵심이다. 이 방식은 생존 편향을 배제하고 백테스트의 시점 일관성을 확보하는 데 사용됐다.
- Brier score
- — 확률 예측의 캘리브레이션과 정확도를 동시에 평가하는 지표로서 예측 확률과 실제 이진 결과의 제곱 오차 평균으로 계산된다. 값이 작을수록 확률 예측이 실제 결과와 가깝다는 의미이다. 본문에서는 전체 모델의 Brier가 0.181로 보고되어 캘리브레이션 품질의 근거로 활용됐다.
- Information gain
- — 특징이 예측에 기여하는 정도를 측정하는 정보량 지표로서, 더 큰 값은 해당 특징이 결과 불확실성을 줄이는 데 유효하다는 것을 의미한다. 본문에서는 6개 특징에서 0.107이던 값이 전체 16개를 넣으면 0.023으로 감소하며 특징 추가가 성능 저하로 연결된 사례로 제시됐다. 이 수치 변화는 약한 신호의 누적이 잡음으로 작용했음을 시사한다.
- Cross-validation grouped by ticker
- — 동일 종목이 학습-검증 양쪽에 동시에 포함되지 않도록 티커별로 폴드를 구성하는 교차검증 방식이다. 시계열과 종목 상관관계를 보존하면서 실전 성능 과대평가를 방지하는 목적이 있다. 본문에서는 이 절차로 기업이 양쪽에 중복되지 않게 분리된 점이 재현성 확보 근거로 제시됐다.
언급된 도구
10-K 텍스트에서 정성적 특징(모트, 리더십, 자본배분 등)을 점수화하는 데 사용되며 채점 결과가 예측 입력으로 활용됐다.
쿼리 기반으로 보정된 확률과 특징별 기여도를 반환하는 추론 플랫폼의 역할을 했으며 학습 단계가 없이 예측을 제공했다.
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.