用DeepSeek搭建知识库,彻底疯狂!
要我说,现在AI这块卷得厉害,但要搭建一个靠谱的本地知识库问答系统,其实真没那么复杂。
我一开始也以为得鼓捣半天Docker、跑模型、调API……结果还得操心硬件跑不动,脑壳疼。
但最近搞到了一套组合拳:AnythingLLM + DeepSeeK,哎妈,属实是省心省力还管用,强烈推荐给跟我一样不想踩坑的朋友!
为什么我会选这套组合?很简单,AnythingLLM 是前端界面做得很舒服、功能也够用的大模型交互工具,而 DeepSeeK 就是背后的 AI 劳模,负责处理你的各种问题。
想直接让AI帮我根据这些资料回答问题,又不想把资料丢给外网大模型,那数据多私密啊?
刚好这个组合支持本地运行,干脆撸起袖子自己搭一个,没想到成品效果还挺惊艳。
下面我就一步步教你怎么在 Windows(顺便带点Mac差异) 上,快速搞定这个本地问答系统,不整花活,照做就行。
第一步:前提准备
开工之前,先把“砖”搬好:
你电脑上得先装好 DeepSeeK 这个本地大模型。
- 我写的这篇文章《DeepSeek满血复活,直接起飞!》
然后是 AnythingLLM 这个“门面担当”。
到这一步,你的“问答系统硬件+界面”就基本齐活了。
第二步:上传你的知识文档
文档是知识库的“底子”,质量直接决定 AI 回答有没有谱。这一步就像喂饭,要喂得好,它才答得好。
打开 AnythingLLM 的界面,进入工作区,点击【上传】按钮,跳转到文件管理区。
把你电脑里那些PDF、Word、txt啥的直接拖进左下角的上传区域;或者直接贴一个网页链接,它也能把内容扒下来扔进临时区。
文件上传完毕后,记得点“Move to Workspace”按钮,把文件移到正式工作区。
这时候最关键的一步来了:点“Save and Embed”,让系统分析你的文档内容,然后塞进它的“小脑袋”里。
过一会儿(别催,它要消化),你就能在右边的工作区文件列表里看到它成功吃下的文件啦。
如果你扔了一本上百页的说明书,它也不怕,自动切片存储,不影响后面查询。
第三步:把文档“钉”到对话中
这一步特别关键,别跳过。你不告诉AI去哪找资料,它可不会自己去翻抽屉。
回到工作区右侧的文件面板,找到你刚上传的文档。
点它右边的图钉按钮,就相当于告诉 AI:“喏,咱这场对话就看这个资料答题。”
再回到对话界面,这时候你就可以开始提问了!
比如我上传了几篇关于“mindsponge”的学术文章,然后直接问它:“什么是 mindsponge?”
嘿,DeepSeeK 真的给我整出一份逻辑清晰、言之有物的答案,比我自己读完再组织语言可高效多了!
如果你后续不想用这个文档了,点一下“取消钉”,AI就会回归默认模式,啥都不参照。
第四步:开始你的问答之旅
一切准备好后,直接在对话框里发问。DeepSeeK 会根据你钉的文档内容回答问题。
要注意哦,每次上传新的知识库文件后,一定要记得输入 /reset 命令,清空上一次对话的上下文,不然它容易混淆回答逻辑。
比如你第一轮问的是“产品A的特点”,第二轮换成“产品B”,它可能还在想着A,搞得回答前言不搭后语。加个 /reset,咱重新开始!
提示 & 小技巧
用了几天之后,我发现几个小招能让体验更顺滑:
记得 reset:每次切换文档或话题,先手动清空上下文。 切换模式:AnythingLLM 支持对话、查询等模式,根据使用场景切一下,体验会更好。 文档定期整理:不需要的文件及时删掉或换新,保持知识库干净整洁。
Mac 用户看这里
虽然我主力用的是 Windows,但我也顺手在家里的 MacBook 上测试了一下,流程基本一样。
唯一的小坑就是 Mac 的首次运行有个授权弹窗,需要你点点确认。
另外路径设置的时候注意大小写敏感问题,别复制错了就行。
应用场景?多到爆
这套系统用起来真的超灵活,下面几个场景我都亲测好用:
企业内部知识查询:上传公司培训资料、流程文档,提问就能找答案。 学术研究辅助:把论文丢进去,提问题就像找个AI学术助理。 个人知识库:整理平时的读书笔记、教程啥的,再也不用翻文件夹找了。
有一次我为了写项目文档,上传了10几个接口说明书,结果比人工翻查高效太多。只要问题问得准,AI回答的内容都能直接复制粘贴用在文档里,省了我一大堆时间。
所有资源一键下载
别担心到处翻软件安装包,我已经把用到的东西都整理到网盘了,直接下载就行:
下载地址:https://pan.quark.cn/s/4e3a3843a943
最后我说句实话,这套 AnythingLLM + DeepSeeK 的组合并不是完美无缺的,比如说运行时的资源占用会有点吃配置,但对于大多数人的使用需求来说,真的非常够用,而且也比动辄云部署、开源改造来的实在。
它不需要你懂太多技术、不用你翻几十页文档、不用你绑信用卡注册外网服务,你只要准备好文档、动动鼠标、敲几个命令,自己动手就能搭建出一个属于你的“知识AI秘书”。
我已经在用它代替过去用 Notion 搜资料、ChatGPT 聊天的组合了。最关键的,它真的属于我自己,数据不会被谁拿去分析二次利用。
也可以看我写的这篇文章《DeepSeek满血复活,直接起飞!》来进行本地搭建。
-END-
以上,就是今天的分享了,看完文章记得右下角点赞,也欢迎在评论区写下你的留言。