指南
知识库(RAG)
上传文档、生成 embeddings,让 AI 引用你的真实内容。
知识库功能让你的 AI 助手能够基于你的真实文档来回答问题 —— 发布说明、帮助文章、政策,任何文本类的内容皆可。
支持的格式
- Markdown、纯文本
- Word(.docx)· CSV
- JSON(作为文本提取)
上传流程
- 进入 知识库 → 上传文档
- 选择文件(最大 25 MB)。它会通过预签名 POST 直接上传到 S3
- worker 接手该任务:提取文本 → 按约 800 tokens 分块 → 使用 OpenAI
text-embedding-3-small生成 embeddings → 存入 pgvector - 完成后状态变为
READY
检索如何工作
在每条访客消息上,worker 会为查询生成 embeddings,并在你租户的分块上执行 余弦距离搜索。Top-K(默认 5)个通过相似度阈值的分块会被内联到系统提示词中。
使用你自己的 embeddings
在 AI 助手 → Embeddings 中,你可以设置自定义的 embedding API endpoint —— 如果你想使用 Azure OpenAI、本地 Ollama 或 DuckLLM,这会很有用。聊天 补全 endpoint 可以与 embedding endpoint 不同,因为聚合器 服务通常不支持 embeddings。
缓存
完全相同的查询文本会命中 24 小时的 Redis 缓存,因此同一条 FAQ 不会 在每次访问时重新生成 embeddings。Anthropic 提示词缓存会应用于系统提示词 + 检索到的 分块,以进一步节省成本。
何时跳过 RAG
如果你的 AI 助手只是一个纯 闲聊 / 线索资格判定机器人,不需要引用文档,就把 RAG enabled 关掉。