피드로 돌아가기
Dev.toAI/ML
원문 읽기
Rust 기반 Evidence Engine 도입으로 AI 브라우징 검증 및 보안 체계 구축
What if browsers were designed for AI, not humans? (My first open source project — feedback welcome)
AI 요약
Context
기존 AI 브라우징 도구가 데이터 추출과 자동화에만 집중하여 Hallucination과 Prompt Injection에 무방비한 구조적 한계 노출. 단순한 웹 렌더링 중심의 Human-centric 브라우저 설계로는 AI의 신뢰성 있는 정보 검증과 안전한 실행 경로 확보가 불가능한 상황 분석.
Technical Solution
- Evidence Engine 설계를 통한 Claim과 실제 페이지 콘텐츠 간의 일치 여부 스코어링 및 검증 로직 구현
- Policy Kernel 도입으로 적대적 콘텐츠 및 유해 명령어(Prompt Injection)를 분류하고 위험 액션을 차단하는 보안 계층 구축
- 15종의 JSON Schema 기반 Structured Contracts를 정의하여 비정형 텍스트 출력을 배제하고 타입 안정성이 보장된 데이터 교환 체계 수립
- DDD Bounded Context 기반의 10개 Rust Crate 구조를 설계하여 브라우저 상태와 도메인 로직을 분리한 Anti-corruption Layer 적용
- Session Memory와 Observation 모듈을 통해 DOM을 구조화된 블록으로 정규화하고 멀티 탭 리서치 이력을 추적하는 감사 로그 체계 구축
- 무거운 ML 모델 의존성을 제거하고 TF-IDF 및 구조적 스코어링 기반의 경량 Embedding Backend로 대체하여 빌드 및 실행 효율 최적화
실천 포인트
1. AI 출력물에 대한 근거 데이터의 정량적 스코어링 체계가 존재하는가
2. 비정형 텍스트 응답 대신 엄격한 JSON Schema 기반의 계약(Contract)을 사용하고 있는가
3. 외부 입력값(웹 페이지 등)이 시스템 명령어로 작동하는 Prompt Injection 방어 계층이 존재하는가
4. 인프라 효율을 위해 무거운 ML 모델 대신 경량화된 알고리즘(TF-IDF 등)으로 대체 가능한 지점은 없는가