गाइड
नॉलेज बेस (RAG)
दस्तावेज़ अपलोड करें, embeddings बनाएं, और AI को आपकी वास्तविक सामग्री उद्धृत करने दें।
नॉलेज बेस फीचर आपके AI एजेंट को आपके वास्तविक दस्तावेज़ों का उपयोग करके सवालों के जवाब देने देता है —— रिलीज़ नोट्स, सहायता लेख, नीतियां, कुछ भी जो टेक्स्ट-आधारित हो।
समर्थित प्रारूप
- Markdown, सादा टेक्स्ट
- Word (.docx) · CSV
- JSON (टेक्स्ट के रूप में निकाला गया)
अपलोड प्रवाह
- नॉलेज → दस्तावेज़ अपलोड करें पर जाएं
- एक फ़ाइल चुनें (अधिकतम 25 MB)। यह presigned POST के माध्यम से सीधे S3 पर अपलोड होती है
- worker इस काम को उठाता है: टेक्स्ट निकालता है → लगभग 800 tokens पर chunks में बांटता है → इसके साथ embeddings बनाता है OpenAI
text-embedding-3-small→ pgvector में संग्रहीत करता है - पूरा होने पर स्थिति
READYमें बदल जाती है
पुनर्प्राप्ति कैसे काम करती है
प्रत्येक विज़िटर संदेश पर, worker क्वेरी के embeddings बनाता है और आपके टेनेंट के chunks पर कोसाइन-दूरी खोज चलाता है। Top-K (डिफ़ॉल्ट 5) chunks जो समानता सीमा पार करते हैं सिस्टम प्रॉम्प्ट में इनलाइन कर दिए जाते हैं।
अपने स्वयं के embeddings लाना
AI एजेंट → Embeddings में आप एक कस्टम embedding API endpoint सेट कर सकते हैं —— यह उपयोगी है यदि आप Azure OpenAI, एक स्थानीय Ollama, या DuckLLM का उपयोग करना चाहते हैं। चैट कम्प्लीशन endpoint, embedding endpoint से अलग हो सकता है, क्योंकि एग्रीगेटर सेवाएं अक्सर embeddings का समर्थन नहीं करतीं।
कैशिंग
समान क्वेरी टेक्स्ट 24-घंटे की Redis कैश से टकराता है, इसलिए वही FAQ हर विज़िट पर embeddings दोबारा नहीं बनाता। Anthropic प्रॉम्प्ट कैशिंग सिस्टम प्रॉम्प्ट + पुनर्प्राप्त chunks पर लागू होती है ताकि लागत में और बचत हो।
RAG को कब छोड़ें
RAG enabled को बंद कर दें यदि आपका AI एजेंट केवल एक सामान्य बातचीत / लीड योग्यता बॉट है जिसे दस्तावेज़ों का हवाला देने की आवश्यकता नहीं है।