프랑스어 튜터를 그만두고 더 나은 LLM 도구를 만든 이야기

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

프랑스어 학습에서 잊어버리는 곡선을 고려한 자동 복습 시스템을 구축해 학습 비용을 크게 낮추고 기억 유지율을 높였다. 지식 베이스와 대화형 음성 튜터의 이중 아키텍처로 이뤄진 이 도구는 SM-2 기반의 간격 조정과 데이터 Driven 프롬프트 구성을 통해 맞춤형 연습을 생성한다. 음성 대화의 지연을 줄이기 위해 스트리밍 기반 재생과 분리된 프롬프트 설계를 적용했고, 결과적으로 월 비용 수십 달러 규모의 전통 튜터에 비해 훨씬 저렴한 비용으로 유의미한 학습 효과를 얻었다.

섹션별 상세

맥락/문제: 잊어버림 곡선으로 인해 주간 튜터 수업의 복습이 비효율적이었다. 입력은 수업 일정이었고, 처리 과정은 SM-2 기반의 간격 조정과 KB 추적, 출력은 맞춤형 복습 문제 생성을 통해 이루어진다. 근거는 40년 간의 기억 연구와 Anki의 실전 활용에서 확인되며, 이는 비용 절감과 학습 효율 향상의 기초가 된다. 이 접근은 잊혀지기 쉬운 정보를 의도적으로 재학습하게 하여 학습의 지속성과 효과를 높이는 것이 목적이다.

구성 요소: 지식 베이스 튜터(KB)와 Causons 음성 대화 앱이 함께 작동한다. 입력은 지식 베이스를 읽고 남은 복습 주제를 식별하는 과정이며, 출력은 난이도를 점차 높이는 연습 문제다. 반면 Causons는 실시간 대화를 이끌며 흐름 속에서 문법 오류를 교정한다. 이 두 시스템은 서로 보완적으로 학습의 지식 형성과 실전 구사를 동시에 강화한다.

데이터 모델링: 모든 주제의 학습 상태를 JSON으로 저장하고, 주기적 복습과 정확도 데이터를 통해 최신 스냅샷만 남긴다. 입력과 출력 사이에서 필요한 데이터는 지식 베이스의 원천에서 재구성되며, 데이터 누적이 과도해지면 분리 가능하다. 이 구조는 성능과 저장 공간의 균형을 맞추고, 필요 시 확장도 용이하게 한다.

프롬프트 설계: 시스템 프롬프트를 두 영역으로 분리해Teaching 정책과 데이터 기반 콘텐츠를 각각 다르게 다룬다. 사용자는 역할 설정과 언어를 포함한 프롬프트는 고정시키되, 오늘의 학습 언어/주제는 런타임에 재구성한다. 프롬프트 캐시의 이점을 활용해 prefix를 재처리하지 않는 부분은 비용을 줄인다. 또한 실제 데이터는 런타임에 재구성하고 저장은 최소화한다.

지연 시간 개선: 음성 대화의 응답 지연을 줄이기 위해 MediaSource Extensions를 도입해 MP3 데이터를 스트리밍으로 재생한다. 먼저 50–200ms의 오디오 조각만 재생을 시작하고 나머지는 다운로드를 병렬로 진행한다. warm 연결에서 엔드 투 엔드 지연은 0.8–2.5초로 감소해 대화의 자연스러움이 크게 개선된다.

근거

Two separate categories in system prompt were necessary: teaching policy vs data-driven sections. — The fix was to treat these as two separate categories with different handling. The teaching policy sections live in IndexedDB and are used verbatim; data-driven sections are rebuilt at chat time.

비용/성과: 모든 API를 합친 15분 세션당 비용이 약 0.04달러 수준으로 낮아진다. 음성 인식은 Groq의 Whisper-large-v3로 처리하고, 채팅은 gpt-4o-mini, TTS는 tts-1을 사용하며 두 개의 API 키를 필요로 한다. GPT-4o 풀 버전은 비용이 크게 비싸고 Claude Sonnet은 추가 구독 비용이 발생하기도 하지만 현 시점의 품질 측면에서 균형이 맞춰진다.

근거

The all-in cost: around $0.04 per 15-minute session across all APIs. — The all-in cost: around $0.04 per 15-minute session across all APIs.
End-to-end latency dropped to 0.8–2.5 seconds on a warm connection. — Combined with streaming the MP3 bytes into a buffer as they arrive, end-to-end dropped to 0.8–2.5 seconds on a warm connection.
Switched from Llama 3.3 70B to gpt-4o-mini improved conversational grammar handling. — I started with Groq’s Llama 3.3 70B... I switched to gpt-4o-mini, which solved the problem.
Claude Sonnet provides quality grammar explanations for the tutor. — Claude Sonnet (the model I’m using for the grammar tutor) is actually very good at explaining grammar.

용어 해설

간격 반복 학습(Spaced Repetition): — 학습한 정보를 망각되기 직전에 반복적으로 복습하도록 주기를 조절하는 학습 원리로, 장기 기억 형성에 기여한다. Anki 등 어플리케이션에서 널리 구현되어 있으며, 학습 주기 조정으로 반복 부담을 줄이고 기억 유지력을 높인다.
SM-2 알고리즘(SM-2): — Anki가 사용하는 회상 난이도 기반 간격 조정 알고리즘으로, 사용자가 각 항목을 얼마나 잘 기억하는지에 따라 학습 간격과 재학습 시점을 결정한다. 초기에 짧은 간격에서 시작해 정답이 반복될수록 간격을 증가시킨다.
지식 베이스(Knowledge Base): — 학습 내용과 규칙, 사례를 구조화된 데이터로 저장하는 저장소로, 시스템이 일관된 피드백과 개인화된 학습 경로를 구성하도록 돕는다. 이 케이스에서 주-topic별 상태와 오답 패턴을 추적하는 데 핵심 역할을 한다.
MediaSource Extensions: — 브라우저에서 오디오/비디오를 스트리밍으로 재생하도록 하는 API로, MP3 조각을 버퍼에 순차적으로 주입해 지연 없이 재생을 시작하고 전체 전송을 병렬화한다.

기술

Groq
Whisper-large-v3
Claude
gpt-4o-mini
Claude Sonnet
SpeechSynthesis
MediaSource Extensions
IndexedDB

활용 사례

language-learning assistant
spaced repetition tutor
spoken-language practice