LinkedIn 채용 에이전트의 계층형 메모리

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

LinkedIn은 채용 담당자의 대화와 후보자 평가에서 나타난 선호를 개인화에 활용하기 위해 대화, episodic, semantic, procedural memory를 결합한 cognitive memory agent를 구축했습니다. 채용 데이터의 자연스러운 계층을 tree 구조로 저장해 바뀐 leaf와 관련 branch만 갱신하고, GraphRAG처럼 전체 그래프를 다시 구성하는 비용을 피했습니다. ingestion 단계에서는 활동을 압축하고 원본 근거와 citation을 연결하며, retrieval 단계에서는 현재 작업과 최신성, 충돌 해결 정책을 기준으로 필요한 메모리만 선택합니다. 애플리케이션별 저장소 격리와 사용자 권한 검사를 적용하고, 병렬 계획, 선택적 LLM 호출, vLLM 최적화로 전체 응답 지연의 10~20%라는 메모리 지연 예산 안에서 동작하도록 구성했습니다.

섹션별 상세

LinkedIn의 채용 에이전트는 채용 담당자가 직무 조건을 다듬고 후보자를 평가하는 과정에서 반복적으로 표현하는 선호를 개인화에 활용하기 위해 cognitive memory agent를 구축했습니다. 이 시스템은 현재 대화만 기억하는 대신 대화 메모리, 에피소드 메모리, 의미 메모리, 절차 메모리를 함께 운용해 사용자의 최신 상태와 장기 선호, 행동 근거, 판단 방식을 분리합니다. 그 결과 비슷한 직무를 다시 채용할 때 이전 상호작용과 같은 조직의 채용 패턴을 재사용하면서도 현재 작업에 필요한 정보만 애플리케이션 에이전트에 전달할 수 있습니다.

사용자 상호작용은 채용 설명 작성, 조건 수정, 후보자 피드백, 연락, 보관 같은 여러 활동으로 이어지며 시간이 지나면 원문 맥락이 비대해집니다. ingestion service는 실시간 또는 준실시간으로 이 흐름을 압축하고, 활동의 경계와 하위 주제를 구분한 뒤 중복과 잡음을 줄여 장기 메모리로 변환합니다. 에이전트의 작업 단계가 앞뒤로 오가는 상황에서도 정보 손실 없이 최신 선호를 반영해야 하므로, 단순한 세션 단위 저장보다 활동의 의미와 시간 범위를 함께 판별하는 처리가 필요합니다.

채용 선호는 프로젝트별 말단 노드에서 채용 담당자 수준으로 집계되고, 같은 회사나 유사한 역할을 담당하는 cohort 수준의 지식으로 확장되는 tree 구조에 맞춰 저장됩니다. 특정 선호가 바뀌면 해당 leaf node와 그 위의 branch만 갱신해 전체 메모리를 다시 계산하지 않으며, 이 방식이 GraphRAG에서 발생하던 많은 LLM 호출과 전체 index 재생성 비용을 줄입니다. 애플리케이션마다 그래프 등 다른 메모리 표현을 선택할 수 있지만, 메모리의 계획, 검색, 추론, 합성 과정은 공통 orchestration layer로 유지됩니다.

관련성은 무엇을 메모리에 넣을지 결정하는 ingestion 단계와 저장된 정보 중 무엇을 꺼낼지 결정하는 retrieval 단계로 나뉩니다. ingestion에서는 제품 접점과 도메인 신호를 바탕으로 선호를 추출하고, episodic store의 원본 활동과 citation을 연결해 왜 그런 선호로 판단했는지 추적하며, retrieval에서는 현재 작업 단계와 질의에 맞춰 시간 정보와 계층별 우선순위를 적용합니다. 과거 선호와 현재 발화가 충돌하면 최신 정보와 conflict resolution policy를 이용해 답변에 반영하고, 사용자가 같은 선호를 반복해서 정정하는 횟수와 대화 turn 변화로 시스템의 friction을 평가합니다.

LinkedIn 규모에서 메모리 시스템은 애플리케이션별 데이터 저장소를 격리하고 로그인한 사용자의 자격 증명과 메모리 소유자 태그를 모든 접근 단계에 전달합니다. 이를 통해 개인 정보가 다른 애플리케이션이나 권한이 없는 cohort로 유출되는 일을 막고, 허용된 경우에만 개인 선호를 조직 단위의 domain intelligence로 공유합니다. 지연 시간은 애플리케이션 전체 응답 예산의 10~20%만 사용할 수 있으므로, 순차 계획 대신 한 단계 병렬 계획을 적용하고 단순 조회에는 추가 LLM 추론을 생략하며 vLLM의 Prefix Caching, chunk prefills, 구조화된 출력과 토큰 제한을 함께 사용합니다.

용어 해설

에이전트 메모리(Agentic Memory): — 에이전트 메모리는 대화와 사용자 행동에서 장기적으로 활용할 정보를 추출하고 저장한 뒤, 현재 작업에 맞는 맥락으로 다시 제공하는 구조입니다. 단순 검색을 넘어 메모리의 수집, 정제, 갱신, 검색, 권한 관리를 함께 처리합니다.
에피소드 메모리(Episodic Memory): — 에피소드 메모리는 사용자의 특정 활동이나 사건을 시간 정보와 함께 보존하는 저장 계층입니다. 집계된 선호의 근거를 원래 행동까지 추적할 수 있어 최신성 판단과 출처 확인, 시간순 질의에 활용됩니다.
의미 메모리(Semantic Memory): — 의미 메모리는 여러 세션과 제품 접점에서 반복적으로 나타난 사용자 선호와 사실을 통합한 장기 기억입니다. 개별 활동을 그대로 보관하기보다 일반화된 사용자 프로필이나 선호 구조로 변환해 개인화에 사용합니다.
절차 메모리(Procedural Memory): — 절차 메모리는 사용자가 작업을 수행하는 방식과 선택 기준을 저장하는 계층입니다. 같은 채용 업무라도 위치, 근무 형태, 경력 수준 등에 부여하는 가중치가 다를 수 있어 사용자의 판단 절차와 trade-off를 보존합니다.
Prefix Caching: — Prefix Caching은 여러 요청에서 반복되는 입력 앞부분을 미리 계산해 저장하고 후속 요청에서 재사용하는 추론 최적화 방식입니다. LLM serving에서 중복 토큰 계산을 줄여 메모리 에이전트의 응답 지연을 낮추는 데 활용됩니다.

기술

GraphRAG
RAG
LLM
vLLM
Prefix Caching
chunk prefills

활용 사례

채용 담당자용 Hiring Agent 개인화
직무별 채용 선호 관리
조직·cohort 단위 채용 지식 공유
사용자 행동 기반 장기 메모리
권한이 분리된 기업용 에이전트