Kaggle Learning Equality 대회 우승 솔루션: 다국어 교육 커리큘럼 자동 정렬 시스템

• •오프라인 우선 교육 환경을 위한 자동화된 콘텐츠 정렬이 목표이다
• •다국어 STEM 주제 매칭이라는 기술적 난제를 해결해야 했다
• •수동 정렬 프로세스를 대체할 수 있는 확장 가능한 ML 모델을 개발했다

• •리더보드와 상관관계가 높은 2단계 교차 검증 전략을 수립했다
• •부모 토픽 제목을 결합하여 커리큘럼의 맥락 정보를 보존했다
• •토픽과 콘텐츠를 각각 고유한 텍스트 문자열로 변환하여 임베딩 기반을 마련했다

계층 구조를 텍스트로 직렬화하는 방식은 그래프 구조를 Transformer 모델이 이해하도록 돕는 일반적인 기법이다.

def get_topic_representation(topic_df):
    # 부모 토큰들을 @ 기호로 연결하여 계층 구조 반영
    topic_df['representation'] = topic_df['parent_title'] + " @ " + topic_df['title'] + " @ " + topic_df['description']
    return topic_df

• •TF-IDF와 Transformer 임베딩을 결합하여 검색 범위를 좁혔다
• •문자 단위 n-gram을 사용하여 다국어 텍스트의 오타나 변형에 대응했다
• •토픽 간 관계를 이용한 2차 매칭으로 재현율(Recall)을 극대화했다

• •ArcFace를 통해 임베딩 공간에서의 클래스 분별력을 강화했다
• •제목이 포함된 앞부분 토큰에 풀링을 집중하여 성능을 개선했다
• •다양한 다국어 사전 학습 모델을 앙상블하여 일반화 성능을 확보했다

ArcFace는 원래 얼굴 인식에서 사용되던 기법으로, 임베딩 공간에서 클래스 간 경계를 명확히 하는 데 효과적이다.

• •임베딩 거리와 텍스트 통계량을 결합한 풍부한 피처 셋을 구성했다
• •LightGBM을 활용해 후보군 중 실제 매칭 여부를 정교하게 판별했다
• •단조 제약을 통해 거리 점수가 낮을수록 매칭 확률이 높아지도록 강제했다

• •상대적 확률 격차를 이용한 후처리로 F2 스코어를 최적화했다
• •CPU 기반 20분 추론이 가능한 고효율 경량 파이프라인을 증명했다
• •단순 의미 유사도를 넘어 커리큘럼의 구조적 특징을 모델이 학습했음을 확인했다