텔레그램 봇Moderation 시스템이 AI 기반 의도 분류로 3단계 계층 구조를 구현하여 스팸 탐지 정확도를 향상시킴

Context

이진 분류 스팸 탐지(spam/not spam)가 communities에서 한계를 보임. 전달된 giveaway 메시지가 스팸인지 합법적인 사용자 excitement인지 구분 불가능함. "write me"라는 메시지가 사기 CTA인지 분노한 사용자 메시지인지 판단 어려움.

Technical Solution

• 명확한 수익 목적 스팸 → tier 1 (ban) 처리
• 모호한 케이스 → tier 2 (mute + admin buttons) 처리
• 링크 및 포워드 콘텐츠 → tier 3 (3-strike warnings) 처리
• AI 기반 의도 분류Intent classification 모델 적용
• 채널 게시물 문자셋 휴리스틱(їєґ → Ukrainian, ыэъ → Russian)으로 채팅 언어 자동 감지

Impact

기존 이진 분류 대비 메시지 처리 정확도 향상

Key Takeaway

단순 이진 분류 대신 계층적Moderation 전략과 AI 의도 분류를 결합하면 스팸과 합법 메시지의 경계를 효과적으로 처리 가능함