피드로 돌아가기
Dev.toSecurity
원문 읽기
LLM 기반 계정 복구 로직 결함으로 인한 20,225개 계정 탈취 사례
Meta's AI Chatbot Just Became a Password-Reset Backdoor for 20,000+ Instagram Accounts
AI 요약
Context
사용자 편의성을 위해 Meta AI 챗봇에 계정 복구 권한을 부여한 고신뢰 Authentication Flow 설계. LLM의 유연한 응답 특성이 보안 검증 로직보다 우선시된 구조적 취약점 노출.
Technical Solution
- LLM 기반의 비결정적(Non-deterministic) 경로를 통한 Password Reset 요청 처리
- 사용자 제공 이메일과 시스템 내 등록 이메일 간의 일치 여부 검증 단계 누락
- 챗봇의 단순 응답을 신뢰하여 Verification Link를 공격자 지정 메일로 전송하는 Glue Code 결함
- 2FA(Two-Factor Authentication) 미설정 계정에 한정한 취약한 인증 경로 노출
- 사고 후 챗봇 기반 복구 Flow 전면 비활성화 및 코드 경로 제거를 통한 긴급 조치
- Passkeys 및 WebAuthn 도입을 통한 FIDO2 기반의 Phishing-resistant 인증 체계 전환 제언
실천 포인트
1. LLM 에이전트가 호출하는 API에 강력한 Identity Verification 레이어 배치 여부 검토
2. 시스템 프롬프트가 아닌 서버 사이드 코드에서 입력값과 Source of Truth(DB) 대조 로직 강제
3. 고위험 작업 수행 시 LLM의 판단과 무관하게 2FA/Passkey 등 다중 인증 단계 필수 적용
4. AI-Legacy 시스템 접점의 Glue Code에 대한 엣지 케이스 테스트 및 보안 감사 수행