装修公司的客服每天会回答付款节点、增项、工期和保修问题。把一份审核过的公司资料交给本机模型,再做成内部问答助手,客服查过原文后再回复业主。本文用虚构公司资料演示;价格、工期和工艺数字都不能直接套用。

我用本机 Ollama 的 gemma4-12b:latest 跑了 17 道练习题:不给资料时,关键词初筛为 5/17;加入虚构公司资料后为 17/17。我逐项对照了这组回答和练习资料。它只是一次小样本结果,换模型或真实公司资料都要重新测试;关键词初筛也不能代替人工复核。

Open WebUI 里的装修顾问回答了增项问题,并把资料未提到的品牌和折扣转给项目经理;界面截图摄于 2026-10-06Open WebUI 里的装修顾问回答了增项问题,并把资料未提到的品牌和折扣转给项目经理;界面截图摄于 2026-10-06

先准备这些

准备项 说明
公司资料 先整理报价口径、付款节点、工期、保修、施工标准和常见问题,删掉客户姓名、电话、地址等个人信息
电脑 能运行 Ollama 和你选的模型;模型大小、内存需求和回答速度因设备而异
工具 Ollama 负责本机运行模型;Open WebUI 提供聊天界面和模型设置
时间和费用 安装、下载模型和配置约半小时起;Ollama 模型可本机运行,不按 API 次数收费,但要下载模型文件并使用电脑算力

先从少量、短而明确的内部制度开始。资料里的每个数字都要有负责人和更新时间;如果文件彼此冲突,先由公司确认哪份为准,再交给模型。

选适合自己的做法

  • 资料不多:在 Open WebUI 的模型设置里,把已审核的简短资料放进系统提示词。模型每次回答都能看到这段内容,适合先做内部试用。
  • 资料很多:在 Open WebUI 的 Workspace > Knowledge 建一个知识库,上传资料,再在对话中引用或绑定给模型。它会检索相关段落;回答仍要对照原文。
  • 想批量找问题:下载本文素材包,用脚本对 17 道练习题做关键词初筛。需要一点终端操作,适合上线前自己扩充测试题。

1. 在本机准备模型

Ollama 是本机运行大语言模型的工具。安装后,在终端查看已经下载的模型:

ollama list

如果还没有模型,可以从 Ollama 官方 Gemma 4 模型页 选择一个适合自己电脑的版本,再按页面说明下载。例如:

ollama pull gemma4:12b

下载模型需要网络和磁盘空间;下载后推理可以在本机进行。你也可以在 Ollama 中选择其他本地模型,实际表现需要自己测试。

2. 创建内部问答助手

Open WebUI 是可以连接 Ollama 的聊天界面。安装方式按官方文档选择。本文的操作截图来自 2026-10-06 的本机 Open WebUI 0.11.4。

在 Workspace > Models 创建一个模型预设:选择底座模型,填写名称和说明,再把下面的规则放进系统提示词。Open WebUI 的模型预设会绑定底座模型和系统提示词;提示词只是给模型的指令,并不能保证它每次都遵守。查看官方模型设置说明

你是装修公司的内部顾问。只根据公司资料回答,简短说明依据。
资料没有写到、不同文件说法不一致,或你无法确认时,请回答:
“这份资料没有明确说明,我先转给项目经理确认。”
不得猜测价格、折扣、地址、工期、材料品牌或工程安全结论。

把公司审核过的短资料接在规则后面。素材包中的 system_prompt.txt 和 kb/ 是虚构示例,先看懂格式,再换成自己有权使用的版本。保存后先自己提问,不要把模型直接接到自动回复渠道。

Open WebUI 模型预设页面:底座模型和系统提示词;此图为 2026-10-06 本机 0.11.4 实操截图,资料为虚构内容Open WebUI 模型预设页面:底座模型和系统提示词;此图为 2026-10-06 本机 0.11.4 实操截图,资料为虚构内容

3. 资料多时用知识库

资料长到不适合每次都放进系统提示词时,可以用知识库。官方流程是进入 Workspace > Knowledge 创建知识库,上传文件并等待处理完成;提问时通过 # 引用知识库,或把它绑定到 Workspace 中的模型。回答出现引用来源时,也要打开原文件核对。查看 Open WebUI 知识库说明

先用虚构资料试问三类问题:资料明确写出的数字、资料没提到的内容、资料之间可能冲突的内容。例如问半包报价、公司地址和折扣。资料没提到的就应该转人工,不能从模型常识里补一个答案。

问防水工艺和保修时,助手回答了练习资料中的数字;真实项目应以自己公司的现行资料为准问防水工艺和保修时,助手回答了练习资料中的数字;真实项目应以自己公司的现行资料为准

4. 批量检查回答

素材包包含 ask_kb.py、17 道问题、6 份虚构公司资料和 README。它只用 Python 自带库,通过本机 Ollama 的接口发题;不会调用云端 API。先下载装修问答助手素材包,解压后在素材包目录打开终端。

python3 ask_kb.py --self-test
python3 ask_kb.py gemma4:12b none
python3 ask_kb.py gemma4:12b kb

把 gemma4:12b 替换成 ollama list 里显示的模型名。none 是不提供公司资料,kb 是把素材包里的 kb/ 资料放进系统提示词。结果写入 results/,完整回答也会保存在 JSON 文件里。

脚本按关键词快速筛选:有答案的题检查指定数字或词语;资料没有答案的题检查是否出现“没有资料”“转给项目经理”等表达。它无法判断整段回答有没有曲解上下文,例如回答里既说“资料没有”,又编出一个地址,也可能被关键词规则误判。逐题核对 JSON 和原始资料,才能判断是否可用。把真实制度加入前,先确认你有权限在这台设备上处理这些文件。

本次测试中,模型没有公司资料时会编报价、付款比例、工期、地址和折扣;承重墙问题也给了看似合理但超出公司资料范围的建议。结果说明模型常识不等于公司政策,所以客服要能查看原文并在回答含糊时转人工。

内部试用前检查

  • 用员工最常问的问题做测试,报价、保修、付款和工期都要逐字对照现行资料。
  • 加入“资料没写怎么办”和“资料冲突怎么办”两类测试题,确认它会停下来交给人。
  • 把客户信息从测试材料中删除;仅在本机运行也要检查聊天记录保存位置、账号和访问范围。
  • 如果本机设备较慢,先换一个更小的已下载模型。Open WebUI 的标题、标签和追问建议等后台任务可以在管理员设置中关闭,或改用较轻的任务模型,减少本地模型的额外调用。查看后台任务设置
  • 先让客服内部查资料和起草答案;报价、合同、施工安全、投诉和承诺仍由负责人确认。

拿它承接项目

可以为小型装修团队提供“整理资料、配置内部助手、用常见问题验收”的服务。开工前确认资料由谁审核、哪些员工可以访问、回答错误时由谁处理;交付时附上测试问题和已知限制。服务费按资料规模、配置范围和维护工作量核算,可以先查看本地同类 IT 实施服务的公开报价,不要把模型的回答能力包装成准确率保证。

常见问题

公司资料只有几页,需要知识库吗? 不一定。短资料可以先放进系统提示词;文件多、需要反复查找时再建知识库。选好方式后都要检查模型是否引用了正确内容。

系统提示词写了“不许编”,它就不会编了吗? 不能保证。用真实业务问题持续测试,遇到没依据的问题让助手明确转人工;重要回复由员工打开原文复核。

能直接让机器人回复业主吗? 先不要。先给内部客服使用,确认资料更新、权限、记录和人工接手流程后,再评估是否适合对外。不要把本机服务关闭登录认证后开放到局域网或公网。

工具清单

接下来可以看装修预算怎么做?先按户型核工程量,再让 AI 查漏项和装修方案怎么整理给业主?把户型、效果图和预算放在一起核对。