拿去! 教你本地安装 deepseek r1
有几位同学后台留言,想要一份本地部署 deepseek r1 的教程。今天安排 !! 总体来说,分成 4 步: 1/ 安装 ollama 2/ 安装 open webui 3/ 安装 deepseek r1 蒸馏模型 4/ 手机,电脑访问 open webui 大部分同学想知道,硬件上有什么要求: 1/ Windows 10 或以上 2/ 32G 内存或以上 3/ GPU 6G或以上 deepseek r1 蒸馏模型: 1/ 1.5b 2/ 7b 3/ 8b 4/ 14b 5/ 32b 6/ 更大参数,看截图 1.5b, 7b, 8b, 14b 都是参数大小。参数越大,模型文件越大。比如 14b 有9GB 大小。意味着需要的内存,至少要远大于 9GB。大家对照截图,自己选 等 Open webui 安装完毕,就可以去 ollama 官网,找蒸馏模型下载。建议安装 14b 以上,14b 出来的效果,作为尝鲜没问题,已有 GPT3.5 的智能。 32b 效果更好,在本地内存 64GB, 6G RTX3060 上运行,大概每秒 3-4 token。作为效率工具,速度是不够的。与 14b 相比,质量有明显提升。最后一张图,放了 32b 的春联对比 安装部分,大家只要做好 3 点: 1/ 一定安装 python3.11 版本,它直接用 pip 即可安装 open webui,安装完毕后,敲 open-webui serve & 命令来启动 UI 2/ ollama 官方提供 windows (Linux/Mac)下载版本, 也可用 pip 装。建议找 windows 安装版本,全自动,省事儿 3/ 找到匹配的蒸馏模型,模型越大,下载时间越长 安装命令看图解,一切默认,一路 Next. 剩下交给时间。 最后,全家人,无论是手机,iPad, 电脑,都可以访问: http://<你安装 deepseek 的电脑IP>:8080, 比如我的: http://192.168.0.111:8080 来使用超级私密的 deepseek r1 大模型啦。