程序员老鬼

用DeepSeek搭建知识库,彻底疯狂!

要我说,现在AI这块卷得厉害,但要搭建一个靠谱的本地知识库问答系统,其实真没那么复杂。

我一开始也以为得鼓捣半天Docker、跑模型、调API……结果还得操心硬件跑不动,脑壳疼。

但最近搞到了一套组合拳:AnythingLLM + DeepSeeK,哎妈,属实是省心省力还管用,强烈推荐给跟我一样不想踩坑的朋友!

为什么我会选这套组合?很简单,AnythingLLM 是前端界面做得很舒服、功能也够用的大模型交互工具,而 DeepSeeK 就是背后的 AI 劳模,负责处理你的各种问题。

想直接让AI帮我根据这些资料回答问题,又不想把资料丢给外网大模型,那数据多私密啊?

刚好这个组合支持本地运行,干脆撸起袖子自己搭一个,没想到成品效果还挺惊艳。

下面我就一步步教你怎么在 Windows(顺便带点Mac差异) 上,快速搞定这个本地问答系统,不整花活,照做就行。

第一步:前提准备

开工之前,先把“砖”搬好:

  1. 你电脑上得先装好 DeepSeeK 这个本地大模型。

  2. 我写的这篇文章《DeepSeek满血复活,直接起飞!》
  3. 然后是 AnythingLLM 这个“门面担当”。

到这一步,你的“问答系统硬件+界面”就基本齐活了。

第二步:上传你的知识文档

文档是知识库的“底子”,质量直接决定 AI 回答有没有谱。这一步就像喂饭,要喂得好,它才答得好。

  1. 打开 AnythingLLM 的界面,进入工作区,点击【上传】按钮,跳转到文件管理区。

  2. Image
  1. 把你电脑里那些PDF、Word、txt啥的直接拖进左下角的上传区域;或者直接贴一个网页链接,它也能把内容扒下来扔进临时区。

    Image
  2. 文件上传完毕后,记得点“Move to Workspace”按钮,把文件移到正式工作区。

    Image
  3. 这时候最关键的一步来了:点“Save and Embed”,让系统分析你的文档内容,然后塞进它的“小脑袋”里。

    Image
  4. 过一会儿(别催,它要消化),你就能在右边的工作区文件列表里看到它成功吃下的文件啦。

    Image

如果你扔了一本上百页的说明书,它也不怕,自动切片存储,不影响后面查询。

第三步:把文档“钉”到对话中

这一步特别关键,别跳过。你不告诉AI去哪找资料,它可不会自己去翻抽屉。

  1. 回到工作区右侧的文件面板,找到你刚上传的文档。

  2. 点它右边的图钉按钮,就相当于告诉 AI:“喏,咱这场对话就看这个资料答题。”

    Image
  3. 再回到对话界面,这时候你就可以开始提问了!

比如我上传了几篇关于“mindsponge”的学术文章,然后直接问它:“什么是 mindsponge?”

嘿,DeepSeeK 真的给我整出一份逻辑清晰、言之有物的答案,比我自己读完再组织语言可高效多了!

如果你后续不想用这个文档了,点一下“取消钉”,AI就会回归默认模式,啥都不参照。

第四步:开始你的问答之旅

一切准备好后,直接在对话框里发问。DeepSeeK 会根据你钉的文档内容回答问题。

Image

要注意哦,每次上传新的知识库文件后,一定要记得输入 /reset 命令,清空上一次对话的上下文,不然它容易混淆回答逻辑。

Image

比如你第一轮问的是“产品A的特点”,第二轮换成“产品B”,它可能还在想着A,搞得回答前言不搭后语。加个 /reset,咱重新开始!

Image

提示 & 小技巧

用了几天之后,我发现几个小招能让体验更顺滑:

  • 记得 reset:每次切换文档或话题,先手动清空上下文。
  • 切换模式:AnythingLLM 支持对话、查询等模式,根据使用场景切一下,体验会更好。
  • 文档定期整理:不需要的文件及时删掉或换新,保持知识库干净整洁。

Mac 用户看这里

虽然我主力用的是 Windows,但我也顺手在家里的 MacBook 上测试了一下,流程基本一样。

唯一的小坑就是 Mac 的首次运行有个授权弹窗,需要你点点确认。

另外路径设置的时候注意大小写敏感问题,别复制错了就行。

应用场景?多到爆

这套系统用起来真的超灵活,下面几个场景我都亲测好用:

  • 企业内部知识查询:上传公司培训资料、流程文档,提问就能找答案。
  • 学术研究辅助:把论文丢进去,提问题就像找个AI学术助理。
  • 个人知识库:整理平时的读书笔记、教程啥的,再也不用翻文件夹找了。

有一次我为了写项目文档,上传了10几个接口说明书,结果比人工翻查高效太多。只要问题问得准,AI回答的内容都能直接复制粘贴用在文档里,省了我一大堆时间。

所有资源一键下载

别担心到处翻软件安装包,我已经把用到的东西都整理到网盘了,直接下载就行:

Image

下载地址:https://pan.quark.cn/s/4e3a3843a943

最后我说句实话,这套 AnythingLLM + DeepSeeK 的组合并不是完美无缺的,比如说运行时的资源占用会有点吃配置,但对于大多数人的使用需求来说,真的非常够用,而且也比动辄云部署、开源改造来的实在。

它不需要你懂太多技术、不用你翻几十页文档、不用你绑信用卡注册外网服务,你只要准备好文档、动动鼠标、敲几个命令,自己动手就能搭建出一个属于你的“知识AI秘书”。

我已经在用它代替过去用 Notion 搜资料、ChatGPT 聊天的组合了。最关键的,它真的属于我自己,数据不会被谁拿去分析二次利用。

最后,我为大家打造了一份deepseek的入门到精通教程,完全免费:https://www.songshuhezi.com/deepseek

也可以看我写的这篇文章《DeepSeek满血复活,直接起飞!》来进行本地搭建。

-END-

ok,今天先说到这,老规矩,给大家分享一份不错的副业资料,感兴趣的同学可以链接我,微信:hls404 找我领取。

以上,就是今天的分享了,看完文章记得右下角点赞,也欢迎在评论区写下你的留言。