RGB 값을 255로 정규화해야 할까, 256으로 정규화해야 할까?

Context

8비트 RGB 이미지를 부동소수점으로 변환 후 처리하고 다시 저장하는 과정에서 발생하는 정규화 스케일링 문제 분석. 기존 표준인 255 분할 방식과 이론적 정밀도가 높은 256 분할 방식 간의 Mapping 구조 차이로 인한 데이터 왜곡 가능성 검토.

Technical Solution

• 255 분할 표준 방식: uint8 0과 255를 0.0과 1.0에 직접 매핑하여 GPU UNORM 변환 규격과의 호환성 확보
• 256 분할 대안 방식: (img + 0.5) / 256.0 수식을 통한 Mid-riser 형태의 구간 중앙 배치로 이론적 재구성 오차 최소화
• Quantization 모델 적용: 표준 방식을 Mid-tread 형태의 균일 스칼라 양자화기로 정의하여 왕복 변환 시의 손실 없는 복구 보장
• Edge Case 처리: 표준 방식의 0.0과 1.0 구간 폭 감소 문제를 Clip 및 Rounding 로직을 통한 정수 구간 복귀로 해결
• 스케일 팩터 일관성 유지: 외부 생성 이미지의 대부분이 255 기반 양자화되었으므로 로딩-처리-저장 전 과정의 Scale Factor 일치 설계