200-bit Precision 도입을 통한 IEEE 754 부동소수점 정밀도 손실 해결

Context

OpenAI의 Erdős 평면 단위 거리 추측 반례 증명 중 Equation (2.2)의 수치적 주장에 대한 재현성 검증 필요성 제기. 기존 IEEE 754 float64 표준의 Machine Epsilon($2.2 \times 10^{-16}$) 한계로 인해 $\log(1 + \epsilon)$ 형태의 초미세 값 계산 시 결과값이 0으로 수렴하는 Precision Failure 발생.

Technical Solution

• float64의 정밀도 한계를 극복하기 위한 mpmath 라이브러리 기반 200-bit 고정밀도 연산 환경 구축
• $\epsilon$ 값이 $10^{-18}$ 스케일인 분자 항의 유효 숫자를 보존하여 $\log(1)$로의 rounding 방지
• Equation (2.2)에 명시된 $u, v, \delta$ 및 $K = \lceil 18r^3 / \pi \rceil$ 등 고정 파라미터를 통한 연산 범위 제한
• 결과값의 무결성 보장을 위해 SHA-256 Manifest 기반의 소스 파일 고정 및 Frozen-report 모드 구현
• Ubuntu/Windows 환경의 GitHub Actions CI를 통해 Python 3.11/3.12 버전별 교차 검증 수행

Impact

• float64에서 0으로 소멸하던 Exponent Excess 값을 $6.2391 \times 10^{-38}$로 정확히 복원
• 논문 제시 값($\approx 6.24 \times 10^{-38}$) 대비 $1.4 \times 10^{-4}$ 수준의 Relative Error 달성

Key Takeaway

수학적 증명과 소프트웨어 아티팩트의 역할 분리 및 계산 가능한 수치적 주장에 대해 좁고 명확한 경계(Claim Custody)를 설정함으로써 재현성과 검증 가능성을 확보하는 설계 원칙 도출.