BLE 기반 PAM 모듈 구현으로 250ms 내 모바일 생체 인증 환경 구축

Context

Mac mini 등 특정 Mac 하드웨어의 Touch ID 부재로 인한 고가 전용 키보드 구매 강제 상황 발생. 기존 Password 입력 방식의 번거로움을 해결하기 위해 이미 보유한 모바일 기기의 Secure Enclave를 활용하는 인증 체계 필요.

Technical Solution

• PAM 스택 내 커스텀 모듈인 pam_touchbridge.so를 삽입하여 sudo 등 인증 요청을 가로채는 구조 설계
• Unix socket을 통한 PAM 모듈과 Swift 기반 launchd 데몬(touchbridged) 간의 통신 인터페이스 구축
• BLE 환경에서 ECDH를 통한 세션 키 도출 및 AES-256-GCM 암호화로 전송 구간 보안 확보
• 모바일 기기의 Secure Enclave 내 non-extractable ECDSA P-256 키페어를 활용한 논스(Nonce) 서명 검증
• PAM_AUTHINFO_UNAVAIL 반환 설계를 통해 데몬 장애 시 기본 패스워드 인증으로 자동 전환되는 Fail-safe 메커니즘 적용
• biometryCurrentSet 플래그 설정을 통한 생체 정보 변경 시 기존 키 무효화 처리로 보안 무결성 유지