Bias-Variance Tradeoff 최적화를 통한 모델 Generalization 성능 확보

Context

학습 데이터에 과하게 적합되어 새로운 데이터에 대응하지 못하는 Overfitting과 데이터 패턴을 충분히 학습하지 못하는 Underfitting의 공존 상황 분석. 단순 정확도 지표만으로는 판단 불가능한 모델의 일반화 성능 저하 문제 해결 필요.

Technical Solution

• 모델 복잡도와 데이터 패턴 간 정렬을 통한 Optimal Fitting 구조 설계
• High Bias 해결을 위해 PolynomialFeatures 기반의 모델 복잡도 증가 및 Feature Engineering을 통한 신호 전달력 강화
• High Variance 해결을 위한 Regularization(Ridge 등) 적용으로 가중치 페널티 부여 및 모델 단순화 유도
• 학습 데이터셋과 별도의 Validation Set 분리를 통한 Training/Test Error 간 Gap 분석 기반의 모델 진단
• Bias-Variance Tradeoff 곡선 분석을 통한 Test Error 최소 지점의 Sweet Spot 탐색
• 데이터 노이즈 학습 방지를 위한 학습 시간 제한 및 데이터 증강을 통한 일반화 성능 향상