챕터별 상세
00:00
Quantization과 Pooling의 상호 보완성
멀티 벡터 모델은 문서 하나를 표현하는 데 너무 많은 벡터를 사용하여 저장 공간 문제가 발생한다. Quantization은 각 벡터의 비트 수를 줄여 크기를 작게 만들고, Pooling은 유사한 벡터들을 결합하여 전체 벡터 개수를 줄이는 방식이다. Binary Quantization과 공격적인 Pooling을 결합했을 때 이론적으로 최대 1000배까지 데이터 압축이 가능하다. 이 두 기법은 서로 다른 각도에서 메모리 문제를 해결하므로 동시에 적용했을 때 시너지가 발생한다.
Quantization은 데이터의 표현 정밀도를 낮추는 기법이며, Pooling은 여러 데이터를 하나로 합쳐 대표값을 만드는 기법이다.
00:43
이미지 데이터를 위한 Row 및 Column Pooling
ColPali와 같은 모델은 이미지를 32x32 그리드의 1024개 패치 벡터로 변환한다. Row Pooling은 각 행의 32개 패치를 평균 내어 하나의 벡터로 압축하여 총 32개의 벡터만 남긴다. Column Pooling은 수직 방향으로 동일한 작업을 수행하며, 두 방식을 결합해 64개의 벡터를 저장하면 원본 대비 16배의 공간을 절약한다. 이 방식은 텍스트 라인이나 테이블처럼 특정 방향으로 구조화된 정보가 있는 문서에서 공간적 특징을 효과적으로 보존한다.
ColPali는 이미지를 작은 조각(Patch)으로 나누어 각 조각을 벡터로 임베딩하는 시각 언어 모델이다.
01:50
K-means를 활용한 계층적 토큰 풀링
공간적 구조가 명확하지 않은 일반 텍스트나 복합 문서에는 Hierarchical Token Pooling이 적합하다. 이 기법은 K-means Clustering 알고리즘을 사용하여 의미적으로 유사한 토큰 임베딩들을 그룹화한다. 각 클러스터 내에서 Mean Pooling을 수행하여 하나의 대표 벡터를 생성하며, 클러스터 개수 K를 32로 설정하면 문서 길이에 상관없이 항상 32개의 벡터만 저장된다. 이는 콘텐츠의 밀도에 따라 적응적으로 압축률을 조절하므로 정보 손실을 최소화하면서 일관된 저장 공간을 유지한다.
K-means Clustering은 데이터를 K개의 군집으로 나누는 대표적인 비지도 학습 알고리즘이다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 03. 25.수집 2026. 03. 25.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
