피드로 돌아가기
Dev.toAI/ML
원문 읽기
공간 구조 보존과 가중치 공유를 통한 이미지 표현 학습 최적화
CNNs Explained: How Image Classification Actually Works in Deep Learning
AI 요약
Context
이미지를 단순 Tensor로 처리하는 MLP 구조의 Parameter explosion 및 공간 정보 손실 문제 발생. SIFT, HOG 등 수동 Feature extraction 방식의 낮은 확장성과 설계자 편향에 따른 한계 직면.
Technical Solution
- Local connectivity와 Weight sharing 적용을 통한 파라미터 수 감소 및 Generalization 성능 향상
- Convolutional layers의 계층적 적층을 통한 Edge에서 Object까지의 추상화 단계 구축
- ReLU 도입을 통한 Gradient 안정화 및 딥러닝 모델의 심층 구조 가능성 확보
- Pooling 레이어를 통한 노이즈 제거 및 입력 데이터의 공간적 Robustness 확보
- ResNet의 Skip connections 도입으로 Deep network의 Degradation 문제 해결 및 학습 효율 개선
- BatchNorm 적용을 통한 학습 과정의 수치적 안정성 확보 및 수렴 속도 향상
실천 포인트
- 모델 아키텍처 변경 전 Data Augmentation을 통한 데이터셋 확장 우선 검토 - BatchNorm 적용 여부에 따른 Gradient 안정성 및 학습 속도 비교 분석 - CAM(Class Activation Map) 시각화를 통한 모델의 판단 근거 및 Dataset bias 검증 - 입력 데이터의 Normalization 여부 확인을 통한 Gradient 불안정성 제거