Human-in-the-Loop 설계를 통한 보안 강화 AI 챗봇 구축

Context

자율 생성 AI의 불투명한 코드 생성으로 인한 보안 취약점과 유지보수 불가 문제를 해결하고자 함. 블랙박스 형태의 AI 자동화 대신 개발자가 모든 라인을 검토하고 승인하는 제어 구조가 필요함.

Technical Solution

• Express 기반 REST API 구조에 Helmet 및 CORS Whitelist를 적용한 보안 레이어 설계
• express-validator를 통한 Input Sanitization으로 Injection 공격 원천 차단
• 단순 Keyword Matching 기반 Intent Recognition으로 로직의 예측 가능성 확보 및 투명성 증대
• JWT 인증 체계를 도입하여 세션 방식 대비 API-first 디자인의 확장성 구현
• express-rate-limit 적용을 통해 IP당 시간당 10건의 메시지로 제한하는 Throttling 처리
• Node 18 Alpine 이미지 및 Non-root User 설정을 통한 컨테이너 CVE 취약점 최소화

Impact

• 표준 Node 이미지 대비 CVE 취약점 약 80% 감소
• AI 자율 생성 대비 코드 이해도 10%에서 100%로 향상
• 구축 시간 4시간 투입으로 보안성이 검증된 제어 가능 시스템 확보

Key Takeaway

AI 기반 개발 시 완전 자동화보다 Human-in-the-Loop 검증 단계를 통합함으로써 보안 취약점을 제거하고 시스템 가독성을 확보하는 설계 원칙이 중요함.