想在 Mac 上试一个能先推理再回答的本地模型,可以用 Ollama 下载 DeepSeek-R1 的 8B 版本。下载后,模型在本机运行,适合先拿虚构资料试做摘要、改写和问答;这篇会带你装好 Ollama、运行模型,并在内存紧张时把上下文调小。

你需要准备

项目 说明
设备 Apple Silicon Mac;本文实测 M1 Max、64GB 内存。16GB 设备没有在本轮验证,不承诺一定能流畅运行
软件 免费的 Ollama 桌面应用和命令行工具
下载 deepseek-r1:8b 模型文件约 5.2GB,首次下载需要联网
用时 安装与操作约 15 分钟;模型下载时间取决于你的网络

Ollama 是一个在电脑上下载、运行大语言模型的工具。它不收本地运行费用,但模型文件会占用磁盘空间,生成时也会使用电脑内存。下载页面和模型入口见 Ollama for macOS 与 DeepSeek-R1 模型库。

安装 Ollama

  1. 打开 Ollama macOS 下载页,下载并安装应用。
  2. 首次打开 Ollama,按应用提示完成初始化。安装完成后打开“终端”(Terminal)。
  3. 输入下面的命令,确认命令行工具已经可用:
ollama --version

本文本机使用 Ollama 0.35.1。不同版本显示的版本号会不同;只要命令能显示版本号,就可以继续。

下载并运行 8B 模型

在终端输入:

ollama pull deepseek-r1:8b

Ollama 会从它的模型库下载 DeepSeek-R1 8B。官方页面列出的模型文件约 5.2GB,下载速度随网络而变;不要把文件大小当作运行时的全部内存占用。

下载完成后,启动聊天:

ollama run deepseek-r1:8b

在出现输入提示后,试试这句话:

把下面这段会议记录整理成 3 条待办,并标出每条待办的负责人和截止日期;没有写明的信息标记为“待确认”。

初次体验请用虚构或已脱敏的内容。R1 会显示一段推理过程后再给答案;回答仍可能有错误,负责人、日期和数字都要回到原文核对。完成后输入 /bye 退出。

内存紧张时,把上下文调小

模型文件约 5.2GB,不代表运行只占 5.2GB。上下文越长,运行时还需要更多内存。本机直接运行时,ollama ps 显示 128K 上下文、约 24GB 运行占用;这正是旧文不能仅凭模型文件大小断言“16GB 就够”的原因。

如果你的 Mac 内存较小,可以给模型建一个 8K 上下文配置。先在终端运行:

mkdir -p ~/ai-models/deepseek-r1-8b-8k
cd ~/ai-models/deepseek-r1-8b-8k
cat > Modelfile <<'EOF'
FROM deepseek-r1:8b
PARAMETER num_ctx 8192
EOF
ollama create deepseek-r1-8b-8k -f Modelfile

这份配置只引用已下载的模型,并把上下文上限设为 8192 个 token。完成后运行:

ollama run deepseek-r1-8b-8k

本文在同一台 M1 Max 64GB 电脑上验证了这份配置:模型能正常回答,ollama ps 显示上下文为 8192、运行占用约 6.5GB。这个结果不能替代 16GB Mac 的实机测试;可用内存还会受系统、其他应用和提示内容影响。上下文变短后,单次对话能参考的历史内容也会减少。

查看速度和当前占用

想测一条回答的生成速度,可以运行:

ollama run deepseek-r1:8b --verbose "用三句话解释什么是大语言模型"

本文在 M1 Max 64GB、Ollama 0.35.1 上复跑,生成速度约 43 tokens/s;启动模型的时间另计。你的结果会因电脑、上下文长度、提示词和 Ollama 版本而不同。用 ollama ps 查看当前加载的模型、上下文和运行占用;没有正在运行的模型时,列表可能为空。

用它做什么,结果怎么交付

本地 8B 模型可以帮你起草会议待办、整理已脱敏的访谈摘要、改写产品说明或做初步问答。它适合先产出草稿,不适合独立核实事实、处理高风险建议或替你做最终决定。

如果你为客户提供本地 AI 工作流,可以交付一份已脱敏的输入样例、模型生成的草稿、人工核对后的版本,以及模型名称、上下文设置和已知限制。报价前先看同类服务和客户的实际需求,不要承诺“答案不会出错”或“装好就能替代人工”。

常见问题

下载很慢怎么办? 首次下载需要从模型库取回约 5.2GB 文件,耗时取决于当前网络。本文没有测试第三方镜像,也不建议从不明来源下载模型。

模型会把数据发到云端吗? 这篇使用已下载的本地模型进行推理。下载模型时需要联网;运行阶段不要把 Ollama 云模型或其他联网服务与本地模式混为一谈。敏感资料先脱敏,并按你实际使用的应用和设置确认数据流向。

为什么回答很长,还带推理内容? DeepSeek-R1 是推理模型,常会先显示推理段落,再输出最终回答。它可能重复、跑题或漏掉约束,交付前仍要人工检查。

怎么确认模型已经退出? 退出聊天后运行 ollama ps。列表里仍有模型时,它可能还在保持加载;等待一会儿再查,或参考 Ollama 官方文档了解当前版本的模型保留设置。

工具清单

工具 用途 入口
Ollama 安装并在本机运行模型,免费 macOS 下载页
DeepSeek-R1 8B 本文使用的文本推理模型,约 5.2GB Ollama 模型页

首次下载和安装时需要网络;本地推理不按 API token 计费。模型许可、第三方应用的数据处理方式和商业使用条件,请在使用前查看对应官方页面。

接下来可以做什么