이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
LLM은 확률 기반 모델로 텍스트 생성에는 뛰어나지만 금융의 핵심인 결정론적 연산에는 취약하다. Kepler는 LLM을 독립적인 시스템의 일부로 간주하고, 모든 수치에 원본 출처를 연결하는 'Atomic Provenance', 수치 추출과 연산을 결정론적 프로세스로 분리하는 'Scope Determinism', 그리고 추출된 데이터를 코드 리뷰처럼 확인하는 프로세스를 도입했다. 이를 통해 금융 데이터의 신뢰성을 확보하고 환각(hallucination)을 방지하여, 생성보다는 검증에 집중하는 AI 시스템을 구축한다.
챕터별 상세
00:00
금융 데이터 배경
금융 데이터는 출처가 명확하지 않으면 가치가 없다. Kepler의 CEO Vinoo Ganesh는 금융 데이터의 신뢰성을 확보하기 위한 배경을 공유했다.
01:42
신뢰와 검증의 중요성
금융 업무에서 데이터의 신뢰성과 검증 가능성은 필수적이다. 현재 금융 환경에서 AI를 도입할 때 가장 큰 걸림돌은 데이터의 정확성이다.
02:57
확률 기계로서의 모델
금융 업무는 결정론적 정확성이 필수적이지만, LLM은 확률 기반의 다음 토큰 예측 모델이라 계산 오류에 취약하다. Kepler는 LLM을 전체 시스템의 일부로만 활용하고, 연산과 검증은 결정론적 서브스트레이트(substrate)를 통해 수행한다. 이 구조는 모델의 비결정적 특성을 격리하여 금융 데이터의 신뢰성을 확보한다.
04:27
금융 전문가들이 수작업을 고수하는 이유
금융 전문가들이 수작업을 고수하는 이유는 데이터의 출처 확인과 검증 과정이 필수적이기 때문이다. AI가 생성한 데이터는 검증 없이는 금융 업무에 활용할 수 없다.
08:22
과로한 VP처럼 AI 모델링하기
AI를 전체 시스템의 일부로 보고, 업무를 위임하되 검증은 시스템이 수행하도록 설계했다. 과로한 VP에게 업무를 맡기듯 AI를 활용하되, 결과물은 반드시 시스템이 검증한다.
09:26
Atomic Provenance
모든 수치는 원본 소스와 연결되어야 하며, 독립적으로 검증할 수 없는 데이터는 시스템에서 배제한다. 이 원칙은 데이터의 출처를 명확히 하여 신뢰성을 높인다.
12:01
Scope Determinism
LLM은 비결정적 작업에만 사용하고, 실제 수치 추출 및 계산은 결정론적 프로세스로 분리하여 수행한다. 이 방식은 모델의 환각을 방지하고 연산 정확성을 확보한다.
13:52
Reconciliation과 실제 수치 추출
추출된 수치가 원본 문서의 데이터와 일치하는지 대사 과정을 거쳐 확인한다. 이 과정은 데이터의 무결성을 보장하는 핵심 단계이다.
15:06
누락 없는 엔티티 추출
데이터 추출 과정에서 발생할 수 있는 누락을 방지하기 위한 구조를 구현했다. 모든 엔티티를 정확하게 식별하여 데이터의 누락을 최소화한다.
16:34
환각 없는 증권 데이터
추출된 모든 수치를 Pull Request처럼 확인하여 AI가 데이터를 임의로 생성하지 못하도록 차단한다. 이 프로세스는 AI의 환각을 방지하고 데이터의 정확성을 보장한다.
20:31
결론: 데이터 출처의 중요성
데이터의 출처를 명확히 하는 것의 중요성을 재확인했다. 금융 데이터의 신뢰성은 생성보다는 검증에서 나온다.
용어 해설
- 원자적 출처 보증(Atomic Provenance)
- — 모든 데이터 포인트가 원본 소스와 연결되어야 하며, 독립적으로 검증할 수 없는 데이터는 시스템에서 배제하는 원칙이다. 금융 데이터의 무결성을 보장하기 위해 필수적이다.
- 범위 결정론(Scope Determinism)
- — LLM은 비결정적 작업(텍스트 생성)에만 사용하고, 수치 계산 및 데이터 추출은 결정론적 시스템으로 분리하여 수행하는 설계 방식이다. 모델의 환각을 방지하고 연산 정확성을 확보한다.
- 대사(Reconciliation)
- — 추출된 수치가 원본 문서의 데이터와 일치하는지 확인하는 검증 과정이다. 금융 데이터의 정확성을 유지하기 위해 자동화된 시스템에서 필수적인 절차이다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 07. 30.수집 2026. 07. 30.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
