LLM 뇌 손상: RRAM 쓰기 노이즈가 언어 모델에 미치는 영향 실험

섹션별 상세

RRAM은 전극 사이에 전도성 필라멘트를 성장시켜 정보를 저장하는 비휘발성 메모리로, DRAM 수준의 속도와 NAND 수준의 밀도를 동시에 제공한다. 대기 전력이 필요 없고 밀도가 높아 LLM을 엣지 디바이스에 배포하기 위한 핵심 기술로 주목받고 있다. 하지만 필라멘트 성장 과정의 불확실성으로 인해 읽기 및 쓰기 시 발생하는 고유한 물리적 노이즈가 상용화의 걸림돌이 되고 있다.

연도별 LLM 파라미터 수와 학습 토큰 수의 증가 추이를 보여주는 산점도 그래프 — Chart2018년부터 2024년까지 LLM의 규모가 기하급수적으로 커지고 있음을 시사합니다. 이러한 확장은 더 높은 메모리 밀도와 에너지 효율을 요구하며, RRAM 기술이 필요한 배경 근거로 제시됩니다.

근거

RRAM은 DRAM보다 약 2배, SRAM보다 약 35배 높은 밀도를 제공한다. — Why is RRAM attractive for deep neural networks? 섹션

RRAM의 쓰기 노이즈는 비트 플립 현상으로 나타나며, 이는 특히 부동 소수점(Floating-point) 데이터를 사용하는 LLM에 치명적일 수 있다. 16비트 bfloat16 형식에서 비트 플립 확률이 10^-4일 경우, 최소 하나의 비트가 변할 확률은 약 14%에 달하며 지수부 비트가 변할 경우 수치가 NaN이나 무한대로 발산할 위험이 크다. 이를 해결하기 위해 정수 양자화(Quantization)나 데이터 재판독 후 수정하는 방식이 대안으로 제시된다.

다양한 비트 플립 확률(p)에 따른 이미지 데이터의 오염 과정을 보여주는 시뮬레이션 — Screenshot비트 플립 확률이 10^-8에서 10^-1로 증가함에 따라 원본 이미지가 노이즈로 인해 어떻게 파괴되는지 시각적으로 보여줍니다. 이는 RRAM 쓰기 노이즈가 데이터 무결성에 미치는 물리적 영향을 직관적으로 이해하도록 돕습니다.

근거

8비트 정수 양자화는 32비트 부동 소수점 대비 노이즈 환경에서 모델 성능을 최대 1167배 개선할 수 있다. — RRAM Noise 섹션 내 Emonds 등의 연구 인용 부분 출처

저자는 Gemma-7b-it 모델의 모든 모듈 출력에 PyTorch forward hook을 등록하여 RRAM 쓰기 노이즈를 실시간으로 주입하는 실험 환경을 구축했다. add_rram_write_noise 함수를 통해 텐서 형태의 출력값에 비트 플립 노이즈를 직접 적용하여 하드웨어적 결함이 소프트웨어 추론에 미치는 영향을 시뮬레이션했다. 이를 통해 실제 RRAM 기반 가속기에서 발생할 수 있는 데이터 오염 상황을 재현했다.

실험 결과 노이즈 레벨이 5e-8 수준일 때는 모델이 'intelektual'과 같은 오타나 중국어 문자를 간헐적으로 출력하면서도 전체적인 답변의 일관성을 유지했다. 그러나 노이즈가 1e-7을 넘어서자 모델이 갑자기 스페인어로 답변을 전환하거나 'HELP'와 같은 단어를 출력하는 등 이상 징후를 보였다. 이는 모델 내부의 임베딩 공간에서 노이즈로 인해 인접한 엉뚱한 토큰이 선택되면서 발생하는 현상으로 분석된다.

노이즈 레벨이 5e-7에 도달하자 모델은 문법적 구조를 완전히 상실하고 무의미한 단어의 반복이나 이모지를 남발하는 '뇌 손상' 상태에 빠졌다. 기존 이미지 분류 모델(VGG16) 실험에 비해 LLM인 Gemma가 노이즈에 훨씬 민감하게 반응하여 성능이 급격히 열화되는 특성을 보였다. 이는 텍스트 생성 모델의 자기회귀적(Autoregressive) 특성상 초기 노이즈가 생성 과정 전체로 전파되어 오류가 누적되기 때문으로 해석된다.

중간 수준의 노이즈(1.5e-7) 주입 시 Gemma 모델의 텍스트 출력 결과 — Screenshot모델이 특정 단어를 반복하거나 무의미한 토큰을 생성하기 시작하는 단계를 보여줍니다. 텍스트가 점차 일관성을 잃고 붕괴되는 과정을 확인할 수 있는 실험 데이터입니다.

근거

Gemma 모델은 노이즈 레벨 5e-7에서 문장 형성 능력을 완전히 상실했다. — 이미지 11 및 결과 분석 섹션

기술

Gemma-7b-it
PyTorch
Gradio
RRAM
bfloat16

활용 사례

엣지 디바이스용 LLM 최적화
하드웨어 결함 주입 테스트
비휘발성 메모리 기반 추론 엔진 설계

언급된 리소스

논문Implications of Noise in Resistive Memory on Deep Neural Networks for Image Classification

GitHubGemma LLM Brain Damage Project Repository

LLM 뇌 손상: RRAM 쓰기 노이즈가 언어 모델에 미치는 영향 실험

섹션별 상세

기술

활용 사례

언급된 리소스

관련 토론

댓글

관련 기사

PrismML의 1-bit/ternary Bonsai와 CaSA로 본 DRAM 내 ternary LLM 추론

LLM Temperature 0이 완벽하게 결정적이지 않은 이유

메모리 내 연산과 아날로그 하드웨어 시뮬레이션

AMD Kria KV260에서 온칩 INT4 LLM 구동

하드웨어 친화적 LLM 설계를 위한 모델-하드웨어 공동 설계