AI 스킨케어 루틴 생성기 개발 사례를 통해 본 '더 적은 것이 더 나은' 설계의 중요성

커뮤니티 반응

대체로 공감하는 반응이며, AI가 '더 적은 것이 더 낫다'는 개념을 이해하지 못하는 현상에 대해 많은 개발자가 유사한 경험을 공유했습니다.

주요 논점

01중립다수

AI의 의학적 정확성(임신 중 레티노이드 금지 감지 등)은 뛰어나지만 비즈니스 로직과의 정렬이 부족하다.

합의점 vs 논쟁점

합의점

AI는 기본적으로 정보를 확장하려는 성향이 있어 명시적인 제한 없이는 단순화된 결과를 내놓기 어렵다.
에러 메시지가 없는 침묵하는 실패(Silent Failure)는 사용자 경험을 파괴하는 가장 큰 요인이다.

논쟁점

이 문제가 모델 자체의 한계인지, 아니면 개발자의 프롬프트 설계 미숙인지에 대한 책임 소재

실용적 조언

사용자가 '적은 단계'를 원할 경우를 대비해 출력 아이템의 최대 개수를 제한하는 하드코딩된 로직이나 강한 시스템 프롬프트를 추가하십시오.
모든 입력 폼에는 필수 항목 누락 시 즉각적인 시각적 피드백(에러 메시지)을 제공하여 사용자가 혼란을 겪지 않게 하십시오.

섹션별 상세

AI 모델이 사용자의 '예산 절약' 요청을 제품 개수 축소가 아닌 저렴한 성분 선택으로 잘못 해석하는 논리적 오류가 발생했다. 시스템은 13개의 질문을 통해 개인화된 루틴을 생성하도록 설계되었으나, 2~3개의 제품만 원하는 사용자에게 지속적으로 6개의 제품을 추천하는 등 '단순화'를 위한 코드 경로가 부재했다. 이는 AI가 기본적으로 정보를 추가하고 확장하는 방향으로만 학습되었을 때 발생하는 전형적인 정렬 문제이다.

특정 성분을 제외해달라는 사용자의 명시적 요청에도 불구하고 AI가 해당 성분을 포함한 결과를 반복적으로 출력했다. 사용자가 4개의 성분을 제거해달라고 요청했으나 결과물에 4개 모두 다시 포함되었으며, 재요청 시에도 동일한 결과가 반환되었다. 이는 프롬프트 엔지니어링이나 모델의 제약 조건 준수 능력이 시스템의 핵심 비즈니스 로직(포괄적 루틴 생성)에 밀려난 결과로 해석된다.

UI 설계 결함으로 인해 사용자가 프로세스를 완료하지 못하는 치명적인 버그들이 방치되었다. 드롭다운 메뉴가 화면 하단(fold) 아래에 생성되어 '계속하기' 버튼이 작동하지 않거나, 이전 단계를 건너뛰었을 때 에러 메시지 없이 '제출' 버튼이 무반응으로 일관하는 현상이 확인되었다. 테스터조차 이를 스스로 해결한 뒤 버그로 인식하지 못하고 보고를 누락하는 등 실제 사용자 환경에서의 이탈 요인이 구체적으로 드러났다.