Trust & Safety 워크플로우 통합을 통한 API 파편화 및 운영 복잡도 해결
Introducing SignalOps API: Content Moderation, Email Verification, and IP Intelligence APIs
AI 시대 Unstructured Data 내 PII 유출 방지를 위한 Context-Aware Detection 설계
Why Detecting PII Matters More Than Ever
Heuristic 기반 필터 스택 구축을 통한 AI Slop 85% 탐지 구현
AI Content Filter: The Practitioner's Playbook for Killing Low-Quality LLM Slop at Scale
Claude API 정밀 쿼터 제한 및 저VRAM Rose Optimizer 공개
Claude API Limits Refined, Rose Optimizer & BloodshotNet Open-Sourced
로컬 LLM의 무분별한 출력 방지, Ethical Inference Guardrail 설계 전략
Stop Your Local LLM From Going Rogue: Building Ethical AI Guardrails
94억 건의 데이터가 숨긴 진실, Content Moderation 투명성의 역설
Transparency Theatre
텔레그램 봇Moderation 시스템이 AI 기반 의도 분류로 3단계 계층 구조를 구현하여 스팸 탐지 정확도를 향상시킴
Implementing 3-Tier Moderation for Telegram Bots
LINE Engineering
대규모 서비스 환경에서의 이미지 콘텐츠 모더레이션(feat. 멀티모달 LLM)
LY Corporation이 전통 ML 모델과 멀티모달 LLM의 하이브리드 구조를 도입해 대규모 이미지 콘텐츠 모더레이션에서 정확도와 처리 속도 간 균형을 달성했다
Amazon Bedrock Guardrails의 5가지 필터 조합으로 생성형 AI 챗봇의 부적절한 응답, 민감 정보 노출, 프롬프트 인젝션을 차단하는 아키텍처 구현
Como proteger sua IA com Amazon Bedrock Guardrails
Meta AI가 콘텐츠 모더레이션 자동화로 일일 5,000건 피싱 시도 탐지 및 가짜 셀러브리티 프로필 신고 80% 감소 달성
Meta’s latest AI improves its terrible content moderation, just a little
AprielGuard가 8B 파라미터 기반 통합 안전 모델로 16개 카테고리의 안전 위험과 다양한 적대적 공격을 다중 턴 대화와 에이전틱 워크플로우 전반에서 탐지
AprielGuard: A Guardrail for Safety and Adversarial Robustness in Modern LLM Systems
Meta가 Llama Guard 4를 출시해 12B 밀집 모델로 텍스트·이미지 입력/출력의 14가지 해저드를 동시에 감지
Welcoming Llama Guard 4 on Hugging Face Hub
컬리 기술블로그LLM Application 구축 도전기 (feat. 소중한 고객님들의 리뷰) - 1부
컬리가 Prompt Engineering과 Chain-of-Thought 기법으로 비정형 리뷰 데이터 자동 검수 시스템 구축
Hugging Face가 6가지 윤리 카테고리 태그와 커뮤니티 기반 검증 체계를 도입해 개방형 ML 아티팩트의 잠재적 해악을 체계적으로 식별 및 제어
Ethics and Society Newsletter #3: Ethical Openness at Hugging Face
Hugging Face가 Diffusers 라이브러리에 윤리 프레임워크를 도입해 커뮤니티 기여와 기술 의사결정의 투명성 및 책임성 강화
Ethical Guidelines for developing the Diffusers library