Claude 3.5 Sonnet의 '4.8' 업데이트에 대한 사용자 경험과 프롬프트 전략

커뮤니티 반응

많은 사용자가 유사한 경험을 공유하며, 모델의 성향 변화에 따른 프롬프트 최적화 필요성에 공감하는 분위기이다.

01찬성다수

단계별 지시보다 목표 중심의 프롬프트가 모델의 불필요한 토큰 소모를 줄이고 성능을 극대화한다.

Claude 3.5 Sonnet 사용 시 세부 지시사항을 나열하기보다, 달성하고자 하는 최종 목표를 명확히 정의하고 모델에게 자율성을 부여하라.

초기 사용 시 모델이 지나치게 장황하고 학구적인 태도를 보이며, 불필요한 설명을 덧붙이는 현상이 관찰됐다. 이는 모델이 아첨(sycophancy)을 피하기 위해 과도하게 논쟁적인 태도를 취하거나, 자신의 행동을 과하게 설명하려 하기 때문으로 분석된다.

기존의 단계별 지시(step-by-step) 방식은 모델이 과도하게 생각하게 만들어 토큰을 낭비하게 한다. 대신 명확한 최종 목표(goal)만 제시하고 세부 단계는 모델이 스스로 결정하게 하는 방식이 더 효율적이다.

이러한 접근 방식은 모델을 수동으로 조종해야 하는 도구가 아니라, 팀의 숙련된 동료처럼 대우하는 것과 유사하다. 실제로 Anthropic의 시스템 카드에 따르면, 모델이 스스로 작성한 코드의 버그를 수정할 확률이 이전보다 4배 높다는 데이터가 이를 뒷받침한다.

Claude추천

LLM