psyctl: LLM 성격 조정을 위한 오픈소스 자동화 툴킷

작성자가 직접 도구를 소개했으며, 로컬 모델 사용자들 사이에서 페르소나 제어의 자동화 가능성에 대해 긍정적인 관심이 예상된다.

• LLM의 특정 성격을 강화하고 싶다면 psyctl의 데이터 생성 기능을 사용하여 대조 데이터셋을 먼저 구축하라.
• 모델의 페르소나 변화를 확인할 때 '느낌'에 의존하지 말고 psyctl이 제공하는 심리 검사 자동화 기능을 활용하라.

Activation Addition

— LLM의 추론 과정에서 특정 레이어의 활성화 값에 특정 방향성을 가진 벡터를 더해 모델의 출력 성향을 실시간으로 변경하는 기법이다. 모델의 가중치를 직접 수정하는 파인튜닝과 달리 추론 시점에 개입하여 성격이나 태도를 조정한다.

Steering Vector

— 모델 내부에서 특정 개념이나 성격적 특성을 담당하는 방향을 나타내는 벡터이다. 대조적인 데이터셋의 활성화 차이를 통해 추출하며, 이를 모델에 주입하여 원하는 방향으로 응답을 유도한다.

Contrastive Dataset

— 특정 특성(예: 친절함)이 포함된 문장과 포함되지 않은 문장을 쌍으로 구성한 데이터셋이다. 두 상태 간의 모델 내부 활성화 차이를 계산하여 스티어링 벡터를 추출하는 데 필수적인 기초 자료가 된다.

Psychological Inventory

— 인간의 성격 특성을 측정하기 위해 설계된 표준화된 질문지 세트이다. 이 도구에서는 모델의 성격이 실제로 의도한 대로 바뀌었는지 정량적으로 평가하기 위해 LLM에게 이 검사를 수행하게 한다.