人人都可有一个 deepseek 本地推理大模型

本地（自己电脑）部署一个 deepseek 太有用了。 1/ 机密数据不用担心外泄 2/ 随时可用，不用魔法，不和别人抢资源 主要用到两个开源的工具： 1/ Ollama 2/ Open WebUI Ollama 官网下；Open WebUI 用 Python3.11 可用 pip 安装 春晚没看，就一直在鼓捣 deepseek r1 的这些 distill(蒸馏) 模型。distill 的意思，可以简单理解为“吸星大法”。 比如千问大模型很大，把它精华吸出来，学它精髓。然后“干中学”。这样吸出来的模型，就是 distill 的小模型。可以用在手机，个人PC 端。 deepseek r1:1.5b 模型，写副春联，中文夹着英文。显然不能用。试了 7b,8b,14b,32b, 发现 14b 在 20G 显卡上足够用。 我截了几个图，从数学，生文，生代码，仿写，几个方面做了测试。有 GPT3.5 的功力了。如果本机没显卡，可以用 autodl, runpod 租 GPU。大概 2-3 R/h. 当年网吧打 cs 也差不多这个价