知識庫（RAG）

知識庫功能讓你的 AI 助理能夠依據你的真實文件來回答問題， 比如發行說明、說明文章、政策，任何文字類的內容皆可。

支援的格式

• PDF
• Markdown、純文字
• Word（.docx）· CSV
• JSON（作為文字擷取）

上傳流程

1. 進入 知識庫 → 上傳文件
2. 選擇檔案（最大 25 MB）。它會透過預簽章 POST 直接上傳到 S3
3. worker 接手該工作：擷取文字 → 以約 800 tokens 分塊 → 使用 OpenAI text-embedding-3-small 產生 embeddings → 存入 pgvector
4. 完成後狀態變為 READY

訓練中心

手動上傳單一檔案只是其中一種入庫方式。進入 AI 助理 → 訓練中心， 你還可以用多種方式為知識庫餵內容：

• 爬取網站：填入一個網址，它會抓取頁面、擷取文字，並像上傳檔案一樣入庫
• 批次上傳檔案：PDF、Word（.docx）等文字文件會被自動解析並分塊
• 問答對：可以手動輸入，也可以用 CSV 一次批次匯入
• Playground：一個沙盒試聊環境，上線前先在這裡用知識庫試跑 AI 助理

檢索如何運作

在每則訪客訊息上，worker 會為查詢產生 embeddings，並在你租戶的分塊上執行 餘弦距離搜尋。Top-K（預設 5）個通過相似度門檻的分塊會被內嵌到系統提示詞中。

平台託管 AI，或使用你自己的 embeddings

預設情況下由平台為你託管 AI，無需自帶金鑰：embeddings 和回覆都跑在託管金鑰上， 依真實 token 用量計費，以點數自動續費，餘額不足時自動轉真人。如果你想自建， 在 AI 助理 → Embeddings 中，你可以設定自訂的 embedding API endpoint， 如果你想使用 Azure OpenAI、本地 Ollama 或 DuckLLM，這會很有用。聊天 補全 endpoint 可以與 embedding endpoint 不同，因為彙整器 服務通常不支援 embeddings。

快取

完全相同的查詢文字會命中 24 小時的 Redis 快取，因此同一則 FAQ 不會 在每次造訪時重新產生 embeddings。Anthropic 提示詞快取會套用於系統提示詞 + 檢索到的 分塊，以進一步節省成本。

何時略過 RAG

如果你的 AI 助理只是一個純 閒聊 / 名單資格判定機器人，不需要引用文件，就把 RAG enabled 關掉。