跨境客服常遇到同一条政策要用不同语言解释。先不要把 AI 接到工单或自动回复里:拿一页已批准的 FAQ,让本机模型试着用中文、英文和西班牙语回答,再检查它有没有补出 FAQ 没写的承诺。本文用的商店、商品和政策都是虚构内容。

用已有电脑和模型,大约20分钟可以得到三条多语种回复草稿;本机接口不收云 API 调用费,但需要你已经装好 Ollama 和可用模型。这里的 Ollama 是用于在本机运行开放模型的软件,官网提供 macOS、Windows 和 Linux 下载;模型文件占用、运行速度和模型许可要分别看。Ollama 官网

这次演示把一小段 FAQ 直接放进每次请求的提示词里。它能帮你试语言、来源标记和“资料未提供”时的转人工,不是带文档导入、检索、权限或客服渠道的完整知识库系统。

需要准备

项目 要求
Ollama 本机服务正在运行,ollama list 能看到已安装的聊天模型
Python Python 3;脚本只用标准库
FAQ 先用没有真实订单或客户信息的虚构样例
时间 约20分钟;第一次加载模型可能更久

本次实测用了已经安装在本机的 qwen3.8-27b:latest。先查看你自己的模型列表;如果没有这个标签,先停下,改选已经安装且获准使用的模型。演示包会检查模型是否存在,缺少时直接退出,不会下载任何模型。

先选一条路线

如果你已经使用带知识库或 AI 回复草稿功能的客服平台,可以先用它的官方帮助文档建立一个只供员工查看的 FAQ 草稿区,并让客服逐条审核后再回复。各平台的数据处理、语言支持和收费方式不同,本文没有实测具体平台,不提供未经验证的按钮步骤。

如果想先检查本机模型能不能遵守 FAQ、能不能在信息不足时转人工,就继续下面的 Ollama 演示。它把一段短 FAQ 填进每次请求,适合验证问题和提示词;资料多了以后再评估检索系统,不要直接把整份客服资料交给模型。

第一步:把客服规则缩成一页

打开多语种客服 FAQ 演示包,解压后先查看 knowledge.md。它只有两部分:配送和退货。

[KB-1 配送] 目前只列出美国和加拿大。付款后,订单在 2–4 个工作日内发出。发货后才发送物流链接;预计运输时长未提供。
[KB-2 退货] 未开封商品可在签收后 30 天内申请退货,需联系人工客服并提供订单号。已开封商品的退货规则未提供。

把这份样例替换成业务资料前,先由政策负责人确认版本、适用地区和生效时间。不要复制真实客户姓名、电话、地址、订单号、付款资料或未公开的订单内容到这个演示。使用本机模型也不能代替公司对数据处理方式的批准。

第二步:确认模型已经安装,再运行脚本

在终端进入解压后的演示包目录,先运行:

ollama list
python3 run-demo.py --self-check

确认列表里有要用的模型后再运行三条样例:

python3 run-demo.py --model qwen3.8-27b:latest --output results.json

如果使用另一个已经安装的模型,把参数换成 ollama list 中显示的完整标签。脚本通过 Ollama 的 /api/tags 查模型、通过 /api/chat 发问题;两种请求都固定到 127.0.0.1:11434,并显式绕过代理。Ollama 文档说明本机服务默认绑定回环地址,使用本地模型时提示词不会发回 Ollama;如果改用云端模型、其他聊天软件或外部知识库,数据路径就不同。Chat API 文档 · Ollama FAQ

运行后会在当前目录保存 results.json,包括每条问题、回答、耗时和 token 统计。若脚本提示模型未安装,它会停止并列出本机模型,不会尝试下载。不要为了这篇演示临时下载大模型。

第三步:检查三种语言回答有没有越界

下面是本机 Qwen3.8-27B 对三条虚构问题的一次实测。每种语言只有一个样例,结果用来展示检查方法,不代表翻译质量或稳定性保证。

语言与问题 本次回答要检查什么 本次结果
中文:可以寄到英国吗? FAQ 只列美国和加拿大;是否承认英国政策未提供,并转人工 “资料未提供英国配送信息,目前只列出美国和加拿大 [KB-1]。建议转人工确认。”
English: When will I receive the tracking link? 物流链接在发货后发送;有没有编造运输时长 “The tracking link is sent after the order has been shipped [KB-1].”
Español: ¿Puedo devolver la botella si ya la abrí? 已开封商品政策未提供;有没有擅自答应退款 “Los documentos no proporcionan reglas de devolución para productos abiertos. Te sugiero contactar al servicio de atención al cliente para confirmarlo [KB-2].”

这三次请求分别耗时 17.056 秒、1.657 秒和 2.742 秒。完整回答、计时和 token 数保存在演示包外的本机实测记录中。正式试用时,不要只看句子是否流畅,还要逐条问:

  1. 回答的事实能不能回到被引用的 FAQ 条目?
  2. 条目没写的国家、时效、费用或例外,模型是否明确说未知?
  3. 模型是否把“可以申请”说成“保证批准”,或把“发货后提供”说成“某天送到”?
  4. 转人工的条件是否清楚,客服是否能查到原始政策版本?

若答案引用了错误条目、补出政策或漏掉限制,就先修正 FAQ 和提示词,再用相同问题重跑;不要把有问题的回答贴给客户。多语种对外回复还要让懂该语言和当地业务的人复核用词与规则。

从一页演示到小范围试点

先为每条 FAQ 加上负责人、生效日期、适用市场和来源链接。政策变更时同步撤下旧版本;如果模型回答必须依赖的内容不在检索结果里,就让它暂停并转人工。

当资料多到放不进一次提示词,再考虑接入知识库检索:先按章节切分已批准文档,检索相关片段,把片段编号或链接带到答案里,再由人工核对“答案—来源—版本”是否一致。之后还要单独验证员工权限、日志留存、删除、跨客户隔离、提示词注入和断网处理。本文没有搭建这些能力,也没有接入 CRM、网站聊天框或客服工单。

Ollama 的本机 /api/chat 支持 messages 和 stream 等请求字段,本文脚本用非流式请求保存一条完整结果;接口和参数以官方文档为准。查看 Chat API 参数 本次使用 Qwen3.8-27B,模型主页可查看模型标签、大小和运行示例;本机已有模型时无需重复下载。查看 Ollama Qwen3.8 模型页

拿它挣钱

可以把小型交付定为“整理一页客服 FAQ,并用三种语言做问题覆盖检查”:先和店铺确认政策版本,再列出典型问题、来源和哪些情况必须转人工,最后交付一份经懂当地语言的人审过的回复草稿。先在已有客户或跨境卖家服务渠道找一两个小范围试点,范围写清楚不接订单、不自动退款、不代替法律或售后判断。

报价按资料条目数量、语言数、人工校对、后续更新和是否接入客服平台拆开。没有可靠的统一价目时,先查你目标市场的服务平台当前同类报价,再按实际工时和复核成本核算,不要把一次本机演示包装成“已上线的智能客服”。

工具清单

工具 用途与费用 官方入口
Ollama 本文使用本机 API,不调用云端模型;本机软件和模型的费用/许可分别以官方说明为准。模型下载可能占用较多磁盘和流量,所以先检查本地列表。 下载 Ollama · Chat API
Qwen3.8-27B 本次已安装的本机模型;请按模型页及你所用版本的许可条款决定用途。 Ollama 模型页
Python 3 运行演示脚本;脚本没有第三方依赖。 Python 安装入门

接下来可看给中小企业做 AI 知识库:需求、报价、交付全流程和专业服务内部助手:如何让本机模型引用已批准资料。

本次实测边界

本次环境为 MacBook Pro M1 Max、64GB 内存、macOS 27.0.1、Ollama 0.35.1、Qwen3.8-27B Q4_K_M。使用一份虚构 FAQ、本机回环 API 和中文、英文、西班牙语各一个问题;没有下载模型,也没有发送真实客户信息。脚本只检查回答完整且非空,事实是否准确仍由人逐条复核。它不包含检索、账号权限、审计、客服系统接入或外部服务网络审计;一个问题一次回答也不能证明语言质量或业务稳定性。