指南
知识库(RAG)
上传文档、生成 embeddings,让 AI 引用你的真实内容。
知识库功能让你的 AI 助手能够基于你的真实文档来回答问题, 比如发布说明、帮助文章、政策,任何文本类的内容皆可。
支持的格式
- Markdown、纯文本
- Word(.docx)· CSV
- JSON(作为文本提取)
上传流程
- 进入 知识库 → 上传文档
- 选择文件(最大 25 MB)。它会通过预签名 POST 直接上传到 S3
- worker 接手该任务:提取文本 → 按约 800 tokens 分块 → 使用 OpenAI
text-embedding-3-small生成 embeddings → 存入 pgvector - 完成后状态变为
READY
训练中心
手动上传单个文件只是其中一种入库方式。进入 AI 助手 → 训练中心, 你还可以用多种方式给知识库喂内容:
- 爬取网站:填入一个网址,它会抓取页面、提取文本,并像上传文件一样入库
- 批量上传文件:PDF、Word(.docx)等文本文档会被自动解析并分块
- 问答对:可以手动录入,也可以用 CSV 一次批量导入
- Playground:一个沙盒试聊环境,上线前先在这里用知识库试跑 AI 助手
检索如何工作
在每条访客消息上,worker 会为查询生成 embeddings,并在你租户的分块上执行 余弦距离搜索。Top-K(默认 5)个通过相似度阈值的分块会被内联到系统提示词中。
平台托管 AI,或使用你自己的 embeddings
默认情况下由平台为你托管 AI,无需自带密钥:embeddings 和回复都跑在托管密钥上, 按真实 token 用量计费,用积分自动续费,余额不足时自动转人工。如果你想自建, 在 AI 助手 → Embeddings 中,你可以设置自定义的 embedding API endpoint, 如果你想使用 Azure OpenAI、本地 Ollama 或 DuckLLM,这会很有用。聊天 补全 endpoint 可以与 embedding endpoint 不同,因为聚合器 服务通常不支持 embeddings。
缓存
完全相同的查询文本会命中 24 小时的 Redis 缓存,因此同一条 FAQ 不会 在每次访问时重新生成 embeddings。Anthropic 提示词缓存会应用于系统提示词 + 检索到的 分块,以进一步节省成本。
何时跳过 RAG
如果你的 AI 助手只是一个纯 闲聊 / 线索资格判定机器人,不需要引用文档,就把 RAG enabled 关掉。