指南

知識庫（RAG）

上傳文件、產生 embeddings，讓 AI 引用你的真實內容。

知識庫功能讓你的 AI 助理能夠依據你的真實文件來回答問題 —— 發行說明、說明文章、政策，任何文字類的內容皆可。

支援的格式

PDF
Markdown、純文字
Word（.docx）· CSV
JSON（作為文字擷取）

上傳流程

進入 知識庫 → 上傳文件
選擇檔案（最大 25 MB）。它會透過預簽章 POST 直接上傳到 S3
worker 接手該工作：擷取文字 → 以約 800 tokens 分塊 → 使用 OpenAI text-embedding-3-small 產生 embeddings → 存入 pgvector
完成後狀態變為 READY

檢索如何運作

在每則訪客訊息上，worker 會為查詢產生 embeddings，並在你租戶的分塊上執行餘弦距離搜尋。Top-K（預設 5）個通過相似度門檻的分塊會被內嵌到系統提示詞中。

使用你自己的 embeddings

在 AI 助理 → Embeddings 中，你可以設定自訂的 embedding API endpoint —— 如果你想使用 Azure OpenAI、本地 Ollama 或 DuckLLM，這會很有用。聊天補全 endpoint 可以與 embedding endpoint 不同，因為彙整器服務通常不支援 embeddings。

快取

完全相同的查詢文字會命中 24 小時的 Redis 快取，因此同一則 FAQ 不會在每次造訪時重新產生 embeddings。Anthropic 提示詞快取會套用於系統提示詞 + 檢索到的分塊，以進一步節省成本。

何時略過 RAG

如果你的 AI 助理只是一個純閒聊 / 名單資格判定機器人，不需要引用文件，就把 RAG enabled 關掉。