LLM 가중치 최적화를 통한 도메인 특화 성능 및 태스크 적응력 확보

Context

Pretrained LLM이 보유한 광범위하고 얕은 지식만으로는 기업 고유의 톤앤매너나 전문 용어 처리에 한계가 존재함. 범용 모델의 언어 이해 능력은 유지하면서 특정 도메인의 심층 지식과 출력 포맷을 학습시켜야 하는 요구사항이 발생함.

Technical Solution

• 전체 가중치를 업데이트하는 Full Fine-Tuning을 통해 데이터셋 규모가 클 때 최적의 성능을 도출하는 구조 설계
• Backbone 모델을 동결하고 Classification layer만 학습시키는 Feature Extraction 방식으로 데이터 부족 및 연산 비용 문제 해결
• LoRA와 같은 PEFT 기법을 적용해 극소수 파라미터만 학습시켜 리소스 효율성과 성능의 균형을 맞춘 최적화 수행
• Instruction Fine-Tuning 포맷(Instruction-Input-Response)을 적용하여 모델의 지시 이행 능력과 응답 스타일 제어
• Catastrophic Forgetting 방지를 위해 낮은 Learning Rate 설정 및 초기 레이어 동결 전략 채택
• EarlyStoppingCallback을 활용한 과적합 방지 및 최적 에포크 도출 체계 구축