inputs-embeds
입력 임베딩
inputs_embeds는 토큰 ID 대신 모델에 직접 전달하는 입력 벡터입니다. 이 실험에서는 이전 단계의 hidden state를 inputs_embeds에 다시 넣어 토큰을 출력하기 전 잠재 추론 단계를 반복했습니다. 이를 통해 텍스트로 드러나지 않는 중간 상태를 계산에 사용할 수 있습니다.
입력 임베딩
inputs_embeds는 토큰 ID 대신 모델에 직접 전달하는 입력 벡터입니다. 이 실험에서는 이전 단계의 hidden state를 inputs_embeds에 다시 넣어 토큰을 출력하기 전 잠재 추론 단계를 반복했습니다. 이를 통해 텍스트로 드러나지 않는 중간 상태를 계산에 사용할 수 있습니다.
