Agent AI Week 3: Chain of Thought 추론

• •단계별 추론 과정을 포함하여 최종 정답의 정확도를 높이는 기법이다
• •기존 Scaling Law가 해결하지 못한 복잡한 추론 태스크의 한계를 극복하기 위해 등장했다
• •In-context learning을 통해 별도의 파인튜닝 없이 모델의 추론 성능을 유도한다

Scaling Law는 모델의 파라미터 수, 데이터량, 연산량이 증가함에 따라 성능이 지수적으로 향상된다는 법칙이다.

• •문제의 복잡도에 따라 가변적인 연산량을 할당할 수 있다
• •추론 과정을 투명하게 공개하여 모델의 오류를 파악하기 용이하다
• •대규모 언어 모델에서 프롬프트 구성만으로 즉각적인 적용이 가능하다

In-context learning은 모델의 가중치를 수정하지 않고 프롬프트에 포함된 예시만으로 새로운 태스크를 수행하게 하는 방식이다.

• •모델 규모가 충분히 클 때 CoT의 성능 개선 효과가 극대화된다
• •단순한 연산량 증가가 아닌 논리적 서술 과정 자체가 성능 향상의 핵심이다
• •답변 전 추론(Reasoning before answer) 방식이 가장 높은 정확도를 기록했다

Ablation Study는 모델이나 기법의 특정 구성 요소를 제거하며 해당 요소가 전체 성능에 미치는 영향을 분석하는 실험이다.

• •다양한 추론 경로를 생성하고 다수결로 최종 답을 결정하여 정확도를 높인다
• •단일 추론 경로가 가질 수 있는 오류 가능성을 통계적으로 상쇄한다
• •추론 과정이 달라도 결과가 일치하는 경우를 찾아 신뢰성을 확보한다

Majority Voting은 여러 개의 예측 결과 중 가장 빈도수가 높은 결과를 최종값으로 채택하는 앙상블 기법의 일종이다.

• •복잡한 목표를 단계별로 분해하여 실행 가능한 계획을 수립하게 한다
• •에이전트 간의 추론 과정 공유를 통해 협업 및 책임 추적을 가능하게 한다
• •중간 과정 모니터링을 통해 시스템의 신뢰성과 투명성을 강화한다

에이전트 AI는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 사용하며 환경과 상호작용하는 인공지능 시스템이다.

• •프롬프트 구성 방식에 따른 성능 민감도가 높아 최적화가 어렵다
• •추론 단계가 길어질수록 연산 자원 소모와 지연 시간이 늘어난다
• •생성된 추론의 논리적 타당성을 정량적으로 평가하는 체계가 미비하다

과적합(Overfitting)은 모델이 훈련 데이터나 특정 패턴에 너무 익숙해져서 새로운 데이터에 대해 유연하게 대처하지 못하는 상태를 의미한다.