TL;DR

Dolphin3-Cyber-8B-GGUF은 Llama 3.1 8B를 기반으로 LoRA(r=16)로 사이버보안 데이터를 중심에 두고 파인튜닝한 모델이며 GGUF 형식으로 11가지 양자화 옵션을 제공해 다양한 로컬 하드웨어에서 실행하도록 설계되어 있다. 학습 과정에서는 Unsloth 프레임워크와 4-bit 양자화를 결합해 약 500 스텝, 2~3시간 내외의 소규모 파인튜닝으로 보안 전반(침투 테스트, 익스플로잇, 하드닝, 포렌식)에 적합한 기술적 출력물을 생성하도록 조정되었다. 모델은 거부 벡터를 제거한 'Abliterated' 상태로 보안 민감 질의에 대해 거부 없이 응답할 수 있으므로 윤리적·법적 책임을 사용자가 부담해야 하고 실환경 적용 전 출력 검증이 필수적이다. 로컬 추론에서는 Q4_K_M을 범용 권장으로 제시하며 Q8_0·F16을 통해 품질 우선 옵션을 제공해 품질·자원 사이의 트레이드오프를 사용자가 선택할 수 있다.

핵심 역량

• 공격 시나리오 생성과 익스플로잇 작성에서 구체적 절차와 코드 템플릿을 생성할 수 있으며 입력으로 주어진 취약점 정보에 기반해 단계별 페이로드·공격 흐름을 기술할 수 있다. 모듈화된 LoRA 어댑터로 보안 지식을 모델 내부에 보존해 도메인 특화 응답을 산출하며 출력은 코드·명령어 예시를 포함할 수 있다. 다만 실제 공격 실행 전 인가와 안전한 테스트 환경 검증이 필요하다.
• 방어·인시던트 대응 영역에서는 하드닝 체크리스트, SIEM 룰·탐지 시그니처 설계, 포렌식 플레이북 같은 절차적 문서를 생성할 수 있다. 로그 패턴 분석·수집 전략과 권장 검증 도구 명세를 문장 수준으로 연결해 제시하며 수동 검토로 검증할 수 있도록 상세 힌트를 제공한다. 실환경 적용 전에는 도구 버전과 환경 차이를 반영해 검증해야 한다.
• 보안 스크립트와 자동화 툴 생성에서는 Python, Bash, PowerShell 등으로 스캐너·포스트익스플로잇 스크립트 템플릿을 생성할 수 있으며 pwntools·nmap 같은 툴 체인을 예시로 사용한다. 출력물은 실행 예시와 옵션 설명을 포함해 그대로 복사해 테스트 가능한 형태로 제공되도록 설계되어 있다. 명령어 구문은 사용하는 도구 버전에 따라 변동 가능성이 있으므로 안전한 테스트 환경에서 검증해야 한다.
• 교육·CTF 보조 용도로는 취약점 원리 설명, 취약한 코드 샘플, 취약점 완화 방안과 연습용 문제 풀이 전략을 단계별로 제공할 수 있다. 짧은 멀티턴 대화에서도 이전 문맥을 유지해 심화 질문에 응답할 수 있으며 챗 템플릿을 통해 역할 기반 시스템 프롬프트를 유지한다. 최신 CVE와 실시간 데이터는 제공하지 못하므로 보완 자료와 병행해야 한다.

강점

• 로컬 추론을 전제로 GGUF 포맷과 다양한 양자화 옵션을 제공하여 클라우드 의존도를 배제하고 데이터 유출 위험을 낮출 수 있다. 사용자는 하드웨어 상황에 맞춰 Q2_K부터 F16까지 선택해 VRAM·RAM 제약에 맞는 모델을 실행할 수 있다. 이로 인해 민감한 보안 검토나 오프라인 분석 워크플로에 적합하다.
• 도메인 특화 LoRA 어댑터로 보안 지식이 집중되어 있어 동일 파라미터 규모의 범용 모델보다 보안 관련 출력의 깊이와 실용성이 높게 설계되어 있다. 학습 가능한 파라미터가 약 42M에 불과해 파인튜닝·재학습 비용이 상대적으로 낮다. 경량화된 파인튜닝 구조는 반복 실험과 빠른 업데이트에 유리하다.
• 다양한 배포 옵션과 하드웨어 권장치(RAM/VRAM, 토큰 처리율 표)가 README에 구체적으로 제공되어 실제 운영에서 성능 예측이 수월하다. Q4_K_M을 범용 권장으로 제시하고 Q8_0·F16 등 품질 우선 옵션을 명시해 사용자가 품질과 자원 사이에서 합리적 선택을 할 수 있다. 로컬 성능 추정치는 RTX 3060, RTX 4060 등 실사용 GPU 기준으로 제공되어 실무계획 수립에 도움이 된다.

훈련 방식

기반은 huihui-ai의 Dolphin3.0-Llama3.1-8B-abliterated이며 LoRA(r=16) 어댑터로 도메인 특화 파인튜닝을 수행했고 학습 시 4-bit 양자화(QLoRA 스타일)를 사용해 메모리 요구를 낮춘 뒤 GGUF 포맷으로 배포했다. Unsloth 프레임워크를 적용해 동일 워크플로보다 빠른 학습 시간을 목표로 했고 학습 하드웨어로는 NVIDIA Tesla T4를 사용했다. 훈련 구성은 총 500 스텝, 배치 누적을 통한 유효 배치 8, AdamW 8-bit 옵티마이저와 FP16 정밀도를 조합해 수행되었다.

알아두면 좋은 것

• 모델은 Llama3.1 8B를 기반으로 하며 LoRA(r=16)로 파인튜닝되어 약 42M의 학습 가능한 파라미터만 업데이트한 경량 도메인 적응을 사용한다. 이 접근 방식은 전체 모델 재학습 없이도 보안 영역 지식을 집중적으로 주입할 수 있게 설계되었다. 훈련 과정에서는 QLoRA 스타일의 4-bit 양자화와 Unsloth 프레임워크를 활용해 짧은 시간 내에 미세조정을 완료했다고 표기되어 있다.
• 배포 형식은 GGUF로 제공되며 README에 11가지 양자화 옵션(Q2_K부터 F16까지)과 각 파일 크기 및 VRAM 요구량이 상세히 명시되어 있어 사용자가 하드웨어 제약에 맞춰 선택할 수 있다. RAM 추정치는 KV cache 포함 2048 컨텍스트 기준으로 제시되어 로컬 추론 계획 수립에 직접적 근거를 제공한다. 특히 Q4_K_M을 '범용 권장'으로 제안해 품질과 자원 요구의 균형 지점을 안내하고 있다.
• 모델은 'Abliterated' 상태로 배포되어 거부 벡터를 제거한 형태이며 보안 관련 민감한 요청에 대해 거부 없이 응답하는 동작 특성을 가진다. 이 특성으로 인해 윤리적·법적 책임은 사용자에게 있으며 README에 명확한 허용/금지 사용 사례와 책임 경고가 포함되어 있다. 따라서 연구·학습·승인된 펜테스팅 외의 사용은 엄격히 제한해야 한다.
• 학습 관련 메타데이터에는 학습 스텝 500, 배치 크기 유효치 8, 학습에 사용한 GPU로 NVIDIA Tesla T4가 기재되어 있으며 전체 훈련 시간은 약 2~3시간으로 표기되어 있다. 이러한 훈련 규모는 소규모 LoRA 파인튜닝 워크플로와 일치하며 빠른 반복 실험이 가능함을 시사한다. 다만 학습 데이터의 구체적 샘플링 비율은 상세하게 공개되어 있지 않다.

기술적 특징

• LoRA 어댑터를 핵심 모듈(q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj)에 적용해 전체 파라미터를 동결한 채 어댑터 파라미터만 학습하도록 구성했고 r=16, alpha=16, dropout=0.0 설정으로 약 42M의 학습 가능한 파라미터를 확보해 효율적 도메인 적응을 달성했다. 이 구조는 전체 모델을 재학습하지 않아도 보안 특화 지식을 주입할 수 있게 하며 파인튜닝 비용과 시간을 크게 절감했다. LoRA 대상 모듈 선정은 Attention 및 FFN의 핵심 연산 경로를 겨냥해 표현력 손실을 최소화하도록 설계되었다.
• 학습 및 배포 양상에서 QLoRA 스타일의 4-bit 양자화와 GGUF 포맷을 결합해 학습 중과 추론 시 메모리 부담을 줄였고 README에 11개 양자화 옵션(Q2_K ~ F16)과 각 파일 크기 및 VRAM 요구량을 명시해 하드웨어 제약에 따른 선택을 가능하게 했다. 양자화 단계는 모델 파일 크기와 처리량을 직접 낮춰 저사양 GPU에서도 실행 가능하게 하며 KV cache를 포함한 RAM 추정치는 컨텍스트 2048 기준으로 제공된다. 이로 인해 로컬 환경 배포가 현실적인 대안이 된다.
• 모델 아키텍처는 Llama 3.1 기반의 32 레이어, hidden size 4096, attention heads 구조로 구성되며 GQA(GQA: Q 32 heads, K/V 8 heads) 설계를 채택해 연산 효율과 메모리 사용 균형을 맞췄다. SwiGLU 기반 FFN과 RMSNorm, RoPE 임베딩을 포함해 표준 Llama3 계열의 연산적 특성을 유지하며 LoRA 어댑터가 Attention과 FFN 경로에 병렬로 추가되었다. 미세조정 후 컨텍스트 창은 2,048 토큰으로 제한해 추론 중 메모리 및 KV 관리가 용이하도록 조정되었다.
• 학습 파이프라인에서는 Unsloth 프레임워크를 사용해 '2x faster'를 목표로 최적화된 워크플로를 적용했고 트레이닝 세부 설정으로는 500 스텝, effective batch size 8, learning rate 2e-4, AdamW 8-bit 옵티마이저, Cosine LR 스케줄러, FP16 정밀도가 사용되었다. 훈련 시간은 약 2~3시간으로 표기되어 있어 소규모 LoRA 파인튜닝으로 빠른 반복 실험이 가능함을 의미한다. 또한 훈련 중 4-bit 양자화를 적용함으로써 VRAM 요구를 낮추어 GPU 자원 제약 환경에서의 파인튜닝 가능성을 확보했다.

차별점

• Abliterated 상태로 거부 벡터를 제거해 보안 관련 민감한 쿼리에 대해 거부 없이 응답하도록 설계된 점이 주요 차별화 요소이다.
• GGUF 포맷으로 11가지 양자화 옵션을 제공해 극저사양부터 고정밀(F16)까지 로컬 실행을 고려한 폭넓은 배포 유연성을 제공한다.
• LoRA(r=16)로 도메인 특화된 지식을 주입해 전체 모델을 재학습하지 않고도 보안 전문 출력의 깊이를 확보한 점이 경쟁 모델과 구분된다.

벤치마크