COBYLA 최적화로 Barren Plateau를 극복한 9-qubit VQE 시뮬레이션

Context

Mn₃Sn Kagome antiferromagnet의 기저 상태 시뮬레이션 시 Classical 시스템의 계산 복잡도 한계 직면. 특히 SU(2) symmetry로 인한 Quantum Gradient 소실 현상인 Barren Plateau 발생으로 표준 Adam Optimizer 기반 학습 중단 문제 발생.

Technical Solution

• Hardware Efficient Ansatz (HEA) 기반의 VQE 파이프라인 설계
• Gradient-based Optimizer의 한계를 극복하기 위해 Cost Function을 직접 평가하는 Gradient-free Optimizer인 COBYLA 채택
• Classical MLP를 Spin Hall Angle 예측 Oracle로 활용하여 QAOA의 탐색 효율을 높이는 Hybrid Quantum-Classical 구조 설계
• Circuit Depth p=2의 얕은 구조에서도 전역 최적 Material Trio(Mn₃Sn, CrTe₂, Bi₂Se₃)를 도출하는 최적화 로직 구현
• Von Neumann entropy 및 Mutual Information 모듈을 통한 Sublattice 간 Non-local Quantum Correlation 검증 체계 구축