딸을 위한 AI 튜터 서버 구축: Gemma 3의 나눗셈 성능 확인

실용적 조언

수학 교육용 챗봇을 구축할 때 텍스트 레이아웃 정렬 능력이 뛰어난 Gemma 3 27B 모델을 고려할 수 있다.
AMD MI50과 같은 하드웨어를 활용하면 27B 규모의 모델도 실시간 대화가 가능한 70t/s 이상의 속도로 구동 가능하다.

섹션별 상세

작성자는 9세 아동의 눈높이에 맞춘 단어 정의와 수학 교육을 위해 전용 시스템 프롬프트를 갖춘 AI 튜터 서버를 구축했다. 입력된 복잡한 단어나 수학 문제를 아동이 이해하기 쉬운 맥락으로 변환하여 출력하도록 설계했다. 기존 사전보다 친절한 답변을 생성하는 것이 초기 목적이었으나, 이후 수학 교육으로 범위를 확장했다. 이는 로컬 LLM이 실생활 교육 도구로 활용될 수 있음을 확인시켜 준다.

수학 튜터 기능 구현 중 기존의 여러 모델들이 초등 수학의 장제법(Long Division) 과정을 시각적으로 정확하게 구현하지 못하는 한계가 발견됐다. GPT-OSS 20B, Qwen 2.5 32B, DeepSeek R1 32B 등 고성능 모델들을 테스트했으나 나눗셈의 단계별 풀이 과정을 올바르게 배치하지 못했다. 이는 LLM이 논리적 추론뿐만 아니라 텍스트 기반의 공간적 레이아웃 표현에서도 난이도를 겪음을 시사한다.

최근 출시된 Gemma 3 27B 모델은 이전 모델들과 달리 나눗셈 과정을 매우 깔끔하게 배치하고 단계별 서술을 완벽하게 수행했다. AMD MI50 32GB 하드웨어 환경에서 초당 70토큰(70t/s)의 빠른 추론 속도를 기록하며 실시간 튜터링에 적합한 성능을 기록했다. 텍스트 레이아웃 유지 능력과 추론 속도 면에서 특정 교육용 태스크에 최적화된 결과를 도출했다.

용어 해설

장제법(Long Division): — 나눗셈의 몫과 나머지를 구하기 위해 단계별 계산 과정을 세로로 나열하는 산술 방식이다. LLM에서는 이 과정을 텍스트로 올바르게 정렬하여 표현하는 것이 논리적 추론과 시각적 배치를 동시에 요구하는 고난도 작업이다.
시스템 프롬프트(System Prompt): — AI 모델의 역할, 말투, 제약 사항 등을 사전에 정의하는 지침이다. 이 사례에서는 9세 아동의 수준에 맞춰 답변하도록 페르소나를 부여하여 응답의 적절성을 높이는 데 사용되었다.
초당 토큰 수(Tokens per Second (t/s)): — AI 모델이 1초당 생성하는 텍스트의 양을 나타내는 속도 단위이다. 70t/s는 사용자가 지연 시간을 거의 느끼지 않고 실시간으로 대화할 수 있는 매우 쾌적한 수준의 성능이다.

언급된 도구

Gemma 3 27B추천

수학 문제 풀이 및 단계별 레이아웃 구현

AMD MI50추천

32GB VRAM을 갖춘 로컬 AI 추론 가속기