可选服务
下面三项服务都是按需部署的。没部署时界面上不出现对应的开关,检索和平时完全一样,不会多调模型,也不会多占资源。
| 服务 | 解决什么问题 | 需要 | 成本 |
|---|---|---|---|
| 多跳检索 | 答案要把几份文档的内容串起来才答得上 | 和 KnowWork 同一台机器即可 | 每份文档入库要调对话模型抽取实体与关系,最费模型 |
| 视觉检索 | 按页面的样子找图表、版式、扫描件 | NVIDIA 显卡,约 10 GB 显存 | 每页约 1 MB 向量,编码 3~5 秒一页 |
| 结构增强 | 长 PDF 的标题层级乱、段落和表格跨页断开 | NVIDIA 显卡,24 GB 以上显存 | 解析时多一步 |
多跳检索
适合「谁负责的哪个项目用了哪家供应商」这类问题:答案分散在几份文档里,单看任何一份都答不全。开启后,KnowWork 从文档里抽出事件、人物、机构、项目等实体和它们的关系,提问时沿着实体之间的关系去找,和普通检索同时进行,结果合在一起。
部署:在部署目录里执行
./install-pro.sh --sag
新装和已经装好的都一样,密钥、数据库都由脚本处理,不用改 .env。装过以后再跑 install-pro.sh(比如升级)不用再带 --sag。
开启:到需要的知识库「设置」→「多跳检索」打开开关,库里已有的文档会自动补建。开启后知识库多一个「图谱」页,可以看实体和关系。用法见多跳检索与图谱。
每份文档都要调对话模型逐块抽取实体和关系,文档多时补建要很久,也会明显增加模型费用。建议只对关联性强的资料库(项目档案、合同、会议纪要等)开启,制度、手册这类单篇就能答的库不需要。
视觉检索
PDF、PPT 按页生成页面向量,问「那张营收趋势图」「带公章的那一页」这类问题时,按页面的样子就能找到,适合图多、表多、扫描件多的资料。需要单独部署一个 ColPali 服务,交付目录里的 docker-compose.colpali.yml 就是它(模型在镜像里,下载约 15 GB)。
-
准备 GPU 机器:NVIDIA 显卡,显存留出约 10 GB;装好 NVIDIA 驱动和 NVIDIA Container Toolkit。可以就是 KnowWork 这台,也可以是另一台(把交付目录拷过去),KnowWork 能访问到就行。
# 能看到显卡就说明驱动和 Container Toolkit 装好了
docker run --rm --gpus all nvidia/cuda:12.9.1-base-ubuntu22.04 nvidia-smi -
启动:在交付目录里执行
docker compose -f docker-compose.colpali.yml up -d。第一次要加载模型,几分钟到十来分钟,docker compose -f docker-compose.colpali.yml ps显示healthy才算好。端口(默认 9100)、用哪张卡、批量大小在.env里改,写法见文件开头的说明。 -
接入 KnowWork:系统管理员到「管理后台」→「模型」→「视觉检索」,地址填
http://<GPU 机器 IP>:9100,点「测试连接」,打开「启用视觉检索」保存。 -
开启:到需要的知识库「设置」→「视觉检索」打开开关,库里已有的 PDF、PPT 自动补建。
限制:只对 PDF、PPT 生效,每份文档最多前 500 页。一页约 830 个向量(约 1 MB),一张 24 GB 的显卡上编码约 3~5 秒一页,提问时编码约 0.2 秒。
结构增强
MinerU 解析长 PDF 时,标题层级可能错乱,跨页的段落和表格会被切断。结构增强在解析之后再理一遍:理顺标题层级、接上跨页的段落和表格。智能助手能拿到一份可靠的目录,按章节去读长文档,而不是从头翻到尾。交付目录里的 docker-compose.popo.yml 就是它(模型在镜像里,下载约 25 GB)。
- 准备 GPU 机器:NVIDIA 显卡,24 GB 以上显存,驱动 575.57.08 以上(推荐 580),装好 NVIDIA Container Toolkit,Docker 数据盘留 80 GB 以上。
- 设访问令牌:在交付目录的
.env里加一行KNOWWORK_POPO_TOKEN=<自己定的一串随机字符>(部署在另一台机器上时,那台没有.env就新建一个)。 - 启动:
docker compose -f docker-compose.popo.yml up -d,等mineru-popo-api显示healthy。 - 接入 KnowWork:系统管理员到「管理后台」→「模型」→「结构增强」,地址填
http://<GPU 机器 IP>:8002,访问令牌填第 2 步那一串,打开「启用结构增强」保存。
之后新解析的 PDF 会多一步结构增强。这一步失败时照常使用 MinerU 的结果,不影响文档入库。已经解析过的文档要「重新解析」才会用上。每个知识库也可以在「设置」→「解析与检索」里单独关掉结构增强。