离线运行大模型这么简单？手把手本地部署 DeepSeek
吃灰思考约 5 分钟快速上手
第一步，打开 https://ollama.com/ 点击Download，打开一次，输入系统密码，就可以命令行下运行了。
第二步，随便找个文件夹，命令行下运行 ollama run deepseek-r1:7b 等待下载完成，就可以开始对话了。
第三步，下载完成，开始使用
详细看看
ollama 支持多个deepseek模型，可以打开 https://ollama.com/library/deepseek-r1 。
如果你的电脑足够给力（不太可能），可以直接运行：
ollama run deepseek-r1:671b
DeepSeek-R1 671B 模型是一个超大规模的模型，模型文件大小约为 404GB。要运行该模型，理论上至少需要 350GB 以上的显存或内存，以支持 FP4 量化版本的部署。这意味着，运行此模型需要配置高性能的计算设备，如至少 1TB 内存和双 NVIDIA H100 80GB 显存的专业服务器。对于大多数家用电脑，即使是最新的配备 32GB 显存的 RTX 5090 显卡，也难以有效运行该模型。
显然，我们一般的家庭电脑很难运行起来。ollama提供了蒸馏后的模型，我们可以用来本地运行：
以下是各版本 DeepSeek-R1 模型的硬件配置要求：
DeepSeek-R1-Distill-Qwen-1.5B ( ollama run deepseek-r1:1.5b)
参数量：1.5B 硬件配置建议： CPU：双核或四核处理器 内存：8GB 及以下 显卡：集成显卡或显存不足 2GB 的独立显卡 适用任务：日常对话、简单文本生成等基础文本处理任务
DeepSeek-R1-Distill-Qwen-7B ( ollama run deepseek-r1:7b)
参数量：7B 硬件配置建议： CPU：英特尔酷睿 i5 系列或 AMD 锐龙 5 系列 内存：16GB 显卡：显存 4-6GB 的独立显卡 适用任务：简单代码生成、文章润色等中等复杂度任务
DeepSeek-R1-Distill-Llama-8B ( ollama run deepseek-r1:8b)
参数量：8B 硬件配置建议： CPU：英特尔酷睿 i5 系列或 AMD 锐龙 5 系列 内存：16GB 显卡：显存 4-6GB 的独立显卡 适用任务：简单代码生成、文章润色等中等复杂度任务
DeepSeek-R1-Distill-Qwen-14B ( ollama run deepseek-r1:14b)
参数量：14B 硬件配置建议： CPU：英特尔酷睿 i7/i9 系列或 AMD 锐龙 7/9 系列 内存：32GB 显卡：显存 8GB 及以上的高性能独立显卡 适用任务：复杂文本处理、高级代码生成等任务
DeepSeek-R1-Distill-Qwen-32B ( ollama run deepseek-r1:32b)
参数量：32B 硬件配置建议： CPU：英特尔酷睿 i7/i9 系列或 AMD 锐龙 7/9 系列 内存：32GB 及以上 显卡：显存 8GB 及以上的高性能独立显卡 适用任务：专业领域的文本深度分析、复杂代码的编写与调试等
DeepSeek-R1-Distill-Llama-70B ( ollama run deepseek-r1:70b)
参数量：70B 硬件配置建议： CPU：高端多核处理器 内存：64GB 及以上 显卡：显存 24GB 及以上的顶级独立显卡 适用任务：高级自然语言处理任务、专业领域的深入研究等
我的尝试
我分别在3台电脑尝试了运行。
. Apple M3 Pro 18GB内存 MacBook Pro 流畅运行 7b 32b可运行，但无法对话（问了一句hello，直接系统死机） . Apple M3 Pro 36GB内存 MacBook Pro 流畅运行7b 基本可用32b，回答比较慢，但可用。 . Alienware Aurora R16 Gaming Desktop : NVIDIA(R) GeForce RTX(TM) 4080 SUPER 16GB GDDR6X 流畅运行7b 流畅运行32b（稍微慢，但可用）
70b的没有测试，想必都不能运行。
UI推荐
Cherry Studio 是我试用了各种UI后，最近一直停留着用的UI，开源免费，功能很多，可玩性/实用性都很强。
网址 https://cherry-ai.com/ 开源 https://github.com/CherryHQ/cherry-studio
Cherry Studio 是一款支持多模型服务的桌面客户端，旨在为专业用户提供高效的 AI 助手。该应用支持 Windows、macOS 和 Linux 平台，未来还计划扩展至移动端。
主要功能：
• 多模型集成： 支持集成多个主流 AI 服务提供商的模型，包括 OpenAI、Gemini、Anthropic 等，用户可以根据需求快速切换不同模型，以充分利用各模型的优势。
• 智能助手： 内置超过 300 个预配置的 AI 助手，涵盖 30 多个行业，帮助用户在多种场景下提升工作效率。
• 文档与数据处理： 支持处理文本、图像、办公文件、PDF 等多种格式，并提供流程图可视化和代码语法高亮功能，方便用户进行文档管理和数据分析。
• AI 绘图： 支持多种绘图模型，用户可以发挥想象力，利用 Cherry Studio 完成各种绘图任务。
• AI 翻译： 无论是在翻译页面还是对话栏，Cherry Studio 都能快速翻译用户输入的内容，支持多语言交流。
• 个性化知识库： 支持多种格式文件的导入和网页导入，用户可以快速构建专属的知识库，满足个性化需求。
• 数据安全： 所有使用数据均储存在本地，不会上传至任何第三方服务器，同时支持本地部署的模型调用，保障用户隐私安全。
Cherry Studio 的设计初衷是让用户专注于创作或享受 AI 带来的便利，而无需被繁琐的配置所困扰。用户只需填写密钥即可立即使用，同时提供了详细的使用文档供参考学习。
下面我们就一步一步用起来：
第一步：下载安装
https://cherry-ai.com/ 下载对应版本，这里有macOS版本，也有Windows版本。
第二步，稍微配置，如下图进入设置，选择Ollama，点击绿色按钮Manage进入模型管理。
如下图点击两个绿色加号。如果你之前执行过对应了ollama run命令，例如：ollama run deepseek-r1:7b 那这里就会显示下载好的模型。
如下最终就配置好了
然后参考如下使用
可以用起来了：
总结
话不多说，2025一定是大模型爆发的元年（去年好像也是？哈哈），一起学习大模型吧。
“什么？客户端没人要都没人喊了？都去忙着学习大模型了？”
今天就聊到这里，下一篇文章一起看看，ollama的实现原理，作为软件开发人员，一定不只想知道如何使用，更想知道实现原理。
最后，我创建了一个AI菜鸟学习群，如果有兴趣一起成长，可以加群一起交流，公众号聊天中发送“加群”或者“AI”即可获取加群方式。