2025년 AI 엔지니어 면접 경험기: 이론보다 실무적 의사결정이 중요한 이유

작성자의 경험에 공감하는 반응이 많으며, 특히 '왜 이 기술을 썼는가'에 대한 답변 준비가 중요하다는 점에 다수가 동의했다.

• 면접 시 프로젝트 설명에 '의미론적 청킹으로 할루시네이션 40% 감소'와 같은 구체적 수치를 포함하라.
• 라이브 코딩 중에는 FAISS나 HNSW 등 인덱스 선택의 이유를 실시간으로 설명하라.
• 비용 절감을 위해 Phi-3.5-mini 같은 소형 모델과 캐싱을 조합한 하이브리드 아키텍처를 고려하라.

RAG

— 외부 지식 베이스에서 관련 정보를 검색하여 LLM의 프롬프트에 주입하는 기술이다. 모델을 재학습시키지 않고도 최신 정보나 특정 도메인 지식을 활용할 수 있게 하며 할루시네이션을 줄이는 데 핵심적인 역할을 한다.

Semantic Chunking

— 문서를 단순히 글자 수나 문단 단위로 나누는 대신 의미적 유사성을 기준으로 텍스트를 분할하는 기법이다. 문맥의 일관성을 유지함으로써 검색 품질을 높이고 모델이 정보를 더 정확하게 이해하도록 돕는다.

HNSW

— 고차원 벡터 검색을 위한 근사 최근접 이웃(ANN) 알고리즘의 일종이다. 그래프 구조를 활용하여 대규모 데이터셋에서도 매우 빠른 검색 속도를 제공하며 실무에서 대용량 벡터 DB 구축 시 표준적으로 사용된다.

Hallucination

— AI 모델이 사실과 다르거나 논리적으로 맞지 않는 정보를 그럴듯하게 생성하는 현상이다. 실무에서는 이를 측정하고 억제하는 것이 모델 배포의 가장 큰 기술적 과제 중 하나로 다뤄진다.