LoRA SFT 기반 Delta A +0.263 달성 및 암기 vs 일반화 검증 분석

Context

B2B 세일즈 이메일 스타일 학습을 위해 LoRA 기반 Supervised Fine-Tuning(SFT)을 수행함. 학습 데이터의 94.3%가 128개 원본의 증강 데이터로 구성되어 표면적 패턴 암기로 인한 성능 왜곡 가능성이 존재하는 상황임.

Technical Solution

• Frozen Base Weight 위에 Low-rank A/B 행렬을 추가하여 출력 경향성을 조정하는 Steering Update 구조 설계
• q_proj, k_proj, v_proj, o_proj 등 Attention 모듈을 통한 Context Routing 최적화
• gate_proj, up_proj, down_proj 등 MLP 모듈을 통한 어휘 및 구문 형태의 Lexical Adaptation 수행
• Cross-entropy Loss 최적화를 통해 타겟 토큰 분포에 대한 확률 밀도를 높이는 방향으로 학습
• 증강 데이터 간의 높은 Gradient 정렬로 인한 빠른 손실 함수 수렴 및 표면 패턴 강화 메커니즘 분석
• 단순 분할이 아닌 원본 패밀리 단위의 Grouped Holdout 설계를 통한 암기 여부 검증 체계 도입