本地有一台电脑,不代表继续把模型全放在本地一定便宜;云端按小时计费,也不代表关掉浏览器就停止收费。更实用的比较方式是:先估同一批工作每月要跑多少小时,再把本地硬件折旧、电费、存储维护,和云端算力、磁盘、网络等费用放进同一张表。

本文附一个离线成本比较器。所有样例数字都是虚构演算值,不是腾讯云或其他厂商的报价。云产品型号、地域、可用区、计费和账户折扣会影响最终金额,购买前要用目标厂商当前的价格计算器核价。

先算本地每月的全成本

本地成本不要只记“机器已经买了”,也不要把一次性采购价全压到单月。建议同时看两种口径:

  • 现金支出:本月实际新增的电费、存储、维修、软件或网络开销。
  • 全成本:把设备采购额按你预估的使用月数分摊,再加上运行和维护费用,用来判断什么时候该换机或新增设备。

可先用这个公式:

本地月成本 = 设备采购额 ÷ 计划使用月数
           + 运行功率(kW) × 本月开机小时 × 电价(元/kWh)
           + 每月存储、维护及其他固定支出

如果设备已经买了,决策时不要只看全成本,也要看现金口径:折旧是预算视角,不会在本月再次扣款。若你本来就要用这台电脑做其他工作,只把因 AI 任务新增的功耗和费用算进“增量现金支出”。

云端不要只看 GPU 单价

以腾讯云 GPU 云服务器为例,官方文档将 GPU 实例成本拆成计算(CPU、内存、GPU)、网络和存储,并提供包年包月、按量计费等购买方式;按量计费的 CVM 文档说明按实际使用量付费,并按秒计时、按小时结算。GPU 实例具体支持哪些购买方式,以当时购买页为准;文档也提醒最终价格需登录账户查看。GPU 云服务器计费说明 · 云服务器计费模式

所以云端月成本至少要列:

云端月成本 = 本月实际计费 GPU 小时 × 当前单价
           + 系统盘/数据盘/对象存储
           + 出网流量或带宽
           + 快照、镜像及其他固定费用

“算力使用小时”与“账单计费小时”可能不同:下载模型、启动环境、等待任务、忘记释放实例,都可能延长计费时间。先查清关机后 GPU、磁盘和公网资源分别如何计费,再开始跑任务。竞价实例还可能被回收;不要把可中断算力当成稳定在线服务。

找出自己的成本临界点

把两种方式写成同一结构:

本地成本(h) = 本地固定月成本 + h × 本地每小时电费
云端成本(h) = 云端固定月成本 + h × 云端每小时算力单价

其中 h 是同一批工作所需、且云端实际计费的月小时数。两条成本线相交的位置是本例的临界点:

临界小时 = (本地固定月成本 - 云端固定月成本)
           ÷ (云端每小时单价 - 本地每小时电费)

如果分母为0,两边随小时数增加的成本相同;若算出的临界小时小于0,就说明在非负用量范围内没有正向交点。临界点只用于初筛,实际还要考虑速度、显存、稳定性、隐私要求、管理时间和闲置资源的机会成本。

用离线比较器跑一遍虚构样例

下载本地与云端成本比较包,解压后在安装了 Python 3 的电脑上运行:

python3 cost_compare.py sample-costs.json

样例假设一台设备采购额为12000元、按30个月分摊,运行功率0.2kW,演算电价0.65元/kWh;云端假设每计费小时8元,另有存储和流量固定支出。这些输入仅用于演算:在每月30个计费小时的样例下,本地全成本约483.90元,云端约310元;比较器算出约52.10小时的临界点。改成60小时后,本地约487.80元,云端约550元。数值不是实时报价,也不代表任何模型的实际速度。

把样例替换成你的真实数据前,先做三件事:

  1. 用相同模型、相同任务、相同输出质量要求,各跑一小批代表性任务;记录成功输出时间和启动等待时间。
  2. 查当前设备墙上功率或系统能耗估算,填本地每月开机时长;电价用自己的电费账单,不套样例数字。
  3. 到你选择的云厂商购买页选定地域、实例、磁盘与网络,再把预计计费小时和总价填进去;单独记录模型缓存、快照、出网与关机仍收费的资源。

不要为了跑一次比较就先下载几十 GB 的模型或长期开着云 GPU。若用量不稳定,可先按实际需求短时租用,记下账单和任务耗时;再决定要不要购买硬件或长期订阅。没有实测足够多的典型任务前,结果只能用于做预算假设。

按工作方式选,不只按月账单选

  • 本地更合适的信号:设备已能满足显存和速度要求;任务持续、隐私敏感;离线工作重要;运维和备份有人负责。
  • 云端更合适的信号:工作量偶发或波动;任务需要本地没有的显存/算力;需要临时扩容;你能及时停止实例并管理账单。
  • 先混合试用的信号:日常轻任务本地做,少量高峰任务云端跑。把数据上传、模型缓存、访问权限和销毁策略写进流程。

你可以先连续记录一个月:任务类型、实际计算分钟、启动/等待时间、失败重跑、云端计费小时、文件流量和人工维护时间。把样本代入比较器后,再看哪条成本线更接近真实业务。它不能替你判断服务条款、数据合规或硬件稳定性,也不包括不可预测的故障成本。