LangGraph ๊ธฐ๋ฐ 5-Agent ํ์ดํ๋ผ์ธ์ ํตํ ๋ณดํ ์ฒญ๊ตฌ ๊ฒฐ์ ์๋ํ ๋ฐ Hallucination ์ ๊ฑฐ
๐ก๏ธ My Neighbour's โน2 Lakh Insurance Claim Was Rejected. I Built an AI to Make Sure It Never Happens Again.
AI ์์ฝ
Context
๋ฐฉ๋ํ ๋ณดํ ์ฝ๊ด์ ๋ณต์ก์ฑ์ผ๋ก ์ธํ ์ฒญ๊ตฌ ๊ฑฐ์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ์ค๊ณ๋ ์์คํ . ์ด๊ธฐ ๋จ๊ณ์ ๋จ์ Python ์คํฌ๋ฆฝํธ์ ๋ก์ปฌ SQLite ๊ธฐ๋ฐ ํ๋กํ ํ์ ์ผ๋ก ์ธํด ํ์ฅ์ฑ๊ณผ ์ ๋ขฐ์ฑ ํ๋ณด์ ํ๊ณ๊ฐ ์์์.
Technical Solution
- LangGraph ๊ธฐ๋ฐ์ 5-Agent ํ์ดํ๋ผ์ธ ๊ตฌ์ถ์ ํตํ ๋ณต์กํ ์ํฌํ๋ก์ฐ ์ ์ด ๋ฐ 18๊ฐ Tool ์ฐ๋
- Decision Engine ๋ด LLM ๋ฐฐ์ ๋ก ๊ฒฐ์ ๋ก ์ (Deterministic) ํ๋จ ์ฒด๊ณ๋ฅผ ๊ตฌ์ถํ์ฌ Hallucination ์์ฒ ์ฐจ๋จ
- Supabase pgvector ๋์ ์ ํตํ IRDAI 2024 ๊ท์ 49๊ฐ ์ฒญํฌ์ Semantic Search ๊ตฌํ ๋ฐ SQL ์ธํฐํ์ด์ค ๋จ์ผํ
- Cloudflare AI Gateway๋ฅผ ํตํ Cerebras, Groq, Gemini, xAI ๋ฑ Multi-provider LLM ๋ผ์ฐํ ๋ฐ ๊ฐ์ฉ์ฑ ํ๋ณด
- Docker Multi-stage Build์ GitHub Actions CI/CD ๋์ ์ ํตํ ๋ฐฐํฌ ์๋ํ ๋ฐ ํ๊ฒฝ ์ผ๊ด์ฑ ์ ์ง
- JWT ๋ฐ HMAC-SHA256 ์ ์ฉ์ ํตํ ๋ณด์ ๊ณ์ธต ๊ฐํ ๋ฐ API Rate Limiting ๊ตฌํ
์ค์ฒ ํฌ์ธํธ
1. ๋น์ฆ๋์ค ๊ฒฐ์ ๋ก์ง(Decision)๊ณผ ์ค๋ช ์์ฑ ๋ก์ง(Explanation)์ ๋ถ๋ฆฌํ์ฌ AI์ ํ๊ฐ ํ์์ ๋ฐฉ์งํ๋๊ฐ?
2. ๋ฒกํฐ ์ ์ฉ DB ๋์ pgvector์ ๊ฐ์ด ๊ธฐ์กด RDB์ ํตํฉ ๊ฐ๋ฅํ ์๋ฃจ์ ์ผ๋ก ์ด์ ๋ณต์ก๋๋ฅผ ๋ฎ์ท๋๊ฐ?
3. ๋จ์ผ LLM ์์กด์ฑ์ ํํผํ๊ธฐ ์ํด AI Gateway๋ฅผ ํตํ Multi-provider ์ ๋ต์ ์๋ฆฝํ๋๊ฐ?