지구 곡률 보정을 통한 거리 측정 정밀도 최적화 및 WGS84 모델 적용

Context

평면 좌표계 기반의 단순 측정 방식은 대규모 거리 측정 시 지구 곡률로 인한 오차 발생. 특히 관측 거리 증가에 따라 수평면과의 이격 거리인 Drop-off 현상이 심화되어 데이터 신뢰도 저하.

Technical Solution

• 관측자 시점의 접평면과 실제 지표면 간의 차이를 보정하는 곡률 및 대기 굴절 보정 로직 적용
• 소각 근사(Small-angle approximation) 기반의 삼각함수를 활용하여 관측 거리 대비 수직 낙하 거리 산출
• 정밀도 요구 수준에 따라 구형 모델(Spherical Model)에서 타원체 모델(Ellipsoid Model)로 계산 복잡도 단계적 확장
• Mercator Projection의 Conformal 특성을 활용해 각도는 유지하되 면적 및 거리 왜곡을 수용하는 설계 채택
• 고정밀 좌표 계산을 위해 WGS84 기준의 Geodesic Inverse 계산 라이브러리 도입을 통한 좌표 간 최단 거리 산출

Impact

• 관측 거리 4,792m 지점에서 약 1.8m의 수직 낙하 거리 발생 확인
• 지구 반경 설정 값 변경에 따라 산티아고-베이징 간 거리 계산 시 최대 23km의 오차 범위 존재 확인

Key Takeaway

비즈니스 요구 정밀도에 맞는 수학적 모델 선택이 시스템 리소스와 정확도 사이의 Trade-off를 결정하는 핵심 설계 요소임.