想在 Mac 上试一个能先推理再回答的本地模型,可以用 Ollama 下载 DeepSeek-R1 的 8B 版本。下载后,模型在本机运行,适合先拿虚构资料试做摘要、改写和问答;这篇会带你装好 Ollama、运行模型,并在内存紧张时把上下文调小。
你需要准备
| 项目 | 说明 |
|---|---|
| 设备 | Apple Silicon Mac;本文实测 M1 Max、64GB 内存。16GB 设备没有在本轮验证,不承诺一定能流畅运行 |
| 软件 | 免费的 Ollama 桌面应用和命令行工具 |
| 下载 | deepseek-r1:8b 模型文件约 5.2GB,首次下载需要联网 |
| 用时 | 安装与操作约 15 分钟;模型下载时间取决于你的网络 |
Ollama 是一个在电脑上下载、运行大语言模型的工具。它不收本地运行费用,但模型文件会占用磁盘空间,生成时也会使用电脑内存。下载页面和模型入口见 Ollama for macOS 与 DeepSeek-R1 模型库。
安装 Ollama
- 打开 Ollama macOS 下载页,下载并安装应用。
- 首次打开 Ollama,按应用提示完成初始化。安装完成后打开“终端”(Terminal)。
- 输入下面的命令,确认命令行工具已经可用:
ollama --version
本文本机使用 Ollama 0.35.1。不同版本显示的版本号会不同;只要命令能显示版本号,就可以继续。
下载并运行 8B 模型
在终端输入:
ollama pull deepseek-r1:8b
Ollama 会从它的模型库下载 DeepSeek-R1 8B。官方页面列出的模型文件约 5.2GB,下载速度随网络而变;不要把文件大小当作运行时的全部内存占用。
下载完成后,启动聊天:
ollama run deepseek-r1:8b
在出现输入提示后,试试这句话:
把下面这段会议记录整理成 3 条待办,并标出每条待办的负责人和截止日期;没有写明的信息标记为“待确认”。
初次体验请用虚构或已脱敏的内容。R1 会显示一段推理过程后再给答案;回答仍可能有错误,负责人、日期和数字都要回到原文核对。完成后输入 /bye 退出。
内存紧张时,把上下文调小
模型文件约 5.2GB,不代表运行只占 5.2GB。上下文越长,运行时还需要更多内存。本机直接运行时,ollama ps 显示 128K 上下文、约 24GB 运行占用;这正是旧文不能仅凭模型文件大小断言“16GB 就够”的原因。
如果你的 Mac 内存较小,可以给模型建一个 8K 上下文配置。先在终端运行:
mkdir -p ~/ai-models/deepseek-r1-8b-8k
cd ~/ai-models/deepseek-r1-8b-8k
cat > Modelfile <<'EOF'
FROM deepseek-r1:8b
PARAMETER num_ctx 8192
EOF
ollama create deepseek-r1-8b-8k -f Modelfile
这份配置只引用已下载的模型,并把上下文上限设为 8192 个 token。完成后运行:
ollama run deepseek-r1-8b-8k
本文在同一台 M1 Max 64GB 电脑上验证了这份配置:模型能正常回答,ollama ps 显示上下文为 8192、运行占用约 6.5GB。这个结果不能替代 16GB Mac 的实机测试;可用内存还会受系统、其他应用和提示内容影响。上下文变短后,单次对话能参考的历史内容也会减少。
查看速度和当前占用
想测一条回答的生成速度,可以运行:
ollama run deepseek-r1:8b --verbose "用三句话解释什么是大语言模型"
本文在 M1 Max 64GB、Ollama 0.35.1 上复跑,生成速度约 43 tokens/s;启动模型的时间另计。你的结果会因电脑、上下文长度、提示词和 Ollama 版本而不同。用 ollama ps 查看当前加载的模型、上下文和运行占用;没有正在运行的模型时,列表可能为空。
用它做什么,结果怎么交付
本地 8B 模型可以帮你起草会议待办、整理已脱敏的访谈摘要、改写产品说明或做初步问答。它适合先产出草稿,不适合独立核实事实、处理高风险建议或替你做最终决定。
如果你为客户提供本地 AI 工作流,可以交付一份已脱敏的输入样例、模型生成的草稿、人工核对后的版本,以及模型名称、上下文设置和已知限制。报价前先看同类服务和客户的实际需求,不要承诺“答案不会出错”或“装好就能替代人工”。
常见问题
下载很慢怎么办? 首次下载需要从模型库取回约 5.2GB 文件,耗时取决于当前网络。本文没有测试第三方镜像,也不建议从不明来源下载模型。
模型会把数据发到云端吗? 这篇使用已下载的本地模型进行推理。下载模型时需要联网;运行阶段不要把 Ollama 云模型或其他联网服务与本地模式混为一谈。敏感资料先脱敏,并按你实际使用的应用和设置确认数据流向。
为什么回答很长,还带推理内容? DeepSeek-R1 是推理模型,常会先显示推理段落,再输出最终回答。它可能重复、跑题或漏掉约束,交付前仍要人工检查。
怎么确认模型已经退出? 退出聊天后运行 ollama ps。列表里仍有模型时,它可能还在保持加载;等待一会儿再查,或参考 Ollama 官方文档了解当前版本的模型保留设置。
工具清单
| 工具 | 用途 | 入口 |
|---|---|---|
| Ollama | 安装并在本机运行模型,免费 | macOS 下载页 |
| DeepSeek-R1 8B | 本文使用的文本推理模型,约 5.2GB | Ollama 模型页 |
首次下载和安装时需要网络;本地推理不按 API token 计费。模型许可、第三方应用的数据处理方式和商业使用条件,请在使用前查看对应官方页面。
接下来可以做什么
- 还没装 Ollama?先看《Ollama 安装与常用命令》。
- 想给本地模型加网页聊天界面?继续看 Ollama + Open WebUI。