피드로 돌아가기
Dev.toAI/ML
원문 읽기
GPT-4o mini 기반 비동기 AI Moderation 시스템 구축
I used AI to moderate AI content — here's what I learned building AIHallucination
AI 요약
Context
커뮤니티의 정체성을 유지하면서 스팸을 효율적으로 차단해야 하는 운영상 제약 발생. 단순 키워드 필터링으로는 풍자와 냉소 등 플랫폼 특유의 뉘앙스를 구분하기 어려운 한계 존재.
Technical Solution
- TanStack Start 및 React 19 도입을 통한 SSR 기반 고성능 라우팅 구조 설계
- GPT-4o mini를 활용한 비동기 Moderation 파이프라인 구축으로 사용자 대기 시간 제거
- 단순 긍/부정 판단이 아닌 플랫폼 톤앤매너를 반영한 12가지 세부 규칙의 System Prompt 설계
- Post 테이블의 상태 컬럼과 moderation_event 로그 테이블을 분리하여 쿼리 성능과 감사 추적성 동시 확보
- 거절 사유와 수정 제안을 포함한 피드백 루프 구현으로 사용자 이탈 방지 및 콘텐츠 품질 개선
- PostgreSQL 및 Drizzle ORM 기반의 Type-safe 쿼리 계층 구축을 통한 런타임 에러 최소화
실천 포인트
- AI Moderation 도입 시 단순 필터링이 아닌 플랫폼의 Voice와 Tone을 정의한 세밀한 System Prompt 설계 필요 - 상태 변경 쿼리 성능을 위한 상태 컬럼(Index)과 이력 관리를 위한 Event 로그 테이블의 물리적 분리 검토 - 사용자 경험 저해를 방지하기 위해 Moderation 프로세스를 Fire-and-forget 방식의 비동기 처리로 구현