개발자가 DeepSeek-R1-Distill-Qwen-1.5B를 파인튜닝해 4GB 랩톱 CPU 환경에서 오프라인 보안 AI 모델 구축으로 평가 점수 2.2에서 6.0으로 173% 향상

Context

클라우드 LLM에 보안 관련 데이터를 전송하면 클라이언트 데이터 유출 위험이 발생하며, 기존 로컬 보안 모델은 고가 하드웨어 요구, 추론 능력 부재, 2025-2026년 AI 네이티브 위협 커버리지 부족 문제를 갖고 있었다.

Technical Solution

• 모델 선택: DeepSeek-R1-Distill-Qwen-1.5B를 기반으로 선정해 1.5B 파라미터 규모에서 안정적인 구조화된 추론 체인 생성 보장
• 추론 기반 학습 형식: 모든 학습 샘플에 최소 5단계의 블록을 명시적으로 포함해 모델이 추론 과정을 표시하도록 강제
• LoRA 타겟층 확대: q_proj, k_proj, v_proj, o_proj(어텐션) + gate_proj, up_proj, down_proj(피드포워드) 총 7개 층을 LoRA 대상으로 설정해 도메인 지식을 어텐션과 추론 경로 모두에 주입
• 양축 데이터셋 설계: MCP 도구 중독, 프롬프트 하이재킹, 에이전트 보안, RAG 포이즈닝, 크레센도 공격, 측면 이동, LLM SSRF 등 7가지 위협에 대해 공격자/방어자 관점의 쌍을 이루는 학습 샘플 구성
• 양자화 선택: Q4_K_M 포맷을 선택해 1.2GB 크기로 압축하면서 약 99% 품질 유지
• 파인튜닝 환경: Google Colab 무료 T4에서 Unsloth를 사용해 30분 내 학습 완료 및 3GB VRAM 이하의 메모리 사용

Impact

• 평가 점수: 파인튜닝 전 2.2점에서 파인튜닝 후 6.0점으로 173% 향상
• 블록 생성율: 20-60%에서 100%로 증가
• 평균 응답 길이: 50-150단어에서 200-500단어로 증가
• 메모리 요구사항: Q4_K_M 양자화로 1.2GB GGUF 모델 생성

Key Takeaway

보안 도메인 AI에서는 가장 큰 모델이 아닌 안정적인 추론 체인을 생성하는 최소 크기 모델을 선택해야 하며, 학습 샘플에 명시적인 추론 단계를 포함하고 어텐션과 피드포워드 층 모두를 타겟화한 LoRA 설정이 블랙박스 답변이 아닌 감사 가능한 추론 과정을 보장하는 핵심이다.