비례 로터리 위치 임베딩
긴 문맥에서 위치 정보를 정확하게 유지하기 위해 로터리 위치 임베딩(RoPE)을 확장하는 기법이다. Gemma 4가 최대 256K 토큰의 긴 컨텍스트 윈도우를 안정적으로 지원하게 한다.