Qwen-2.5-14B 테스트를 통한 Drift-Inversion 일반화 실패 검증

Context

Granite 모델에서 확인된 Drift-Inversion 개입의 효과가 타 모델로 확장 가능한지 검증하는 과정. 특정 모델에 종속된 현상인지 아니면 범용적인 Quantization 특성인지 파악하려는 목적.

Technical Solution

• Falsifiable Prediction 설계를 통한 실험 결과의 객관성 확보
• Qwen-2.5-14B 모델을 대상으로 한 Drift-Inversion 개입 전이 테스트 수행
• 윈도우별 효과의 방향성 및 분포 분석을 통한 일반화 가능성 검토
• 모델 간 효과의 부호 반전 여부를 통한 메커니즘 차이 식별
• 실험 데이터 기반의 Transfer 가능성 배제 및 모델 특이적 현상 정의

Impact

• Qwen-2.5-14B 모델 윈도우의 61%에서 효과의 부호가 반전되는 결과 확인

Key Takeaway

• 모든 모델에 적용되는 범용 솔루션보다 명확한 실패 사례를 통한 모델별 특성 파악이 설계 정밀도를 높이는 핵심 경로임.