你把 AI 当聊天用？难怪它总是「一本正经地胡说八道」
一只阿木木约 11 分钟你把 AI 当聊天用？难怪它总是「一本正经地胡说八道」
AI 不是什么都知道。但如果你给它你的知识库——它什么都能帮你。
【正文】
我要先给你看一样东西。
上个月，我的一个读者给我发了一张截图。
他正在写一篇关于「消费心理学」的文章，让 ChatGPT 帮他推荐几本经典书籍并引用核心观点。
ChatGPT 给了他一份非常「专业」的书单。
其中第三本书是这样的：
text
📖《消费行为的隐形逻辑》
作者：理查德·肖特（Richard Short）
出版社：哈佛商业出版社，2019年
核心观点：消费者的购买决策中有72%受到潜意识锚定效应的影响……
书名、作者、出版社、年份、数据——一切看起来无比专业。
但这本书不存在。
这个作者不存在。
这个出版社没出过这本书。
那个「72%」的数据，是 AI 编的。
每一个字都是假的。但每一个字都像真的。
他差点把这段引用直接写进了自己的文章里。
如果不是他多了个心眼去搜了一下——
他就会在一篇公开发表的文章里，引用一本不存在的书、一个不存在的作者、一个凭空编造的数据。
这就是所谓的——
AI 幻觉（Hallucination）。
你先别觉得这是个别现象。
如果你用过 ChatGPT 超过 10 次，我几乎可以肯定——
你已经被骗过了。只是你可能还不知道。
因为 AI 的「胡说八道」不像人类的胡说八道——
人胡扯的时候，通常语气虚、措辞含糊、一看就不太靠谱。
但 AI 胡扯的时候，语气极其坚定、格式极其规范、措辞极其专业。
它编造一个不存在的论文引用和它引用一个真实的论文引用——
用的是一模一样的语气。
你根本分辨不出来。
这就引出了一个你必须理解的根本性问题——
AI 到底是什么？它为什么会一本正经地说假话？
搞清楚这个问题，你才能知道怎么正确地用它，而不是被它坑。
01｜AI 不是搜索引擎
你可能以为，ChatGPT 和百度、Google 差不多——
你问一个问题，它去一个超大的数据库里找答案，然后把答案端给你。
这是完全错误的理解。
百度和 Google 是搜索引擎——
你输入关键词，它去互联网上查找已经存在的网页，然后把最匹配的结果列给你。
答案本来就在那里。搜索引擎只是帮你找到了它。
但 AI 完全不一样。
它不是在「查找」答案。它是在「生成」答案。
当你问 ChatGPT 一个问题时——
它没有去任何数据库里搜索。
它做的事情是：
根据你输入的文字，用概率计算出「下一个最合理的词是什么」，然后一个词一个词地把回答「写」出来。
它不是在回忆。
它不是在检索。
它是在即兴创作。
每一次回答，都是一次「现场生成」。
02｜一个你一听就懂的比喻
我知道上面这段话有点抽象。
让我换一个比喻。
AI 的本质，就是一个极其高级的「文字接龙」机器。
还记得小时候玩的文字接龙吗？
你说「大海」，我接「海鸥」，再接「欧洲」，再接「洲际导弹」——
每次接龙的时候，你不是去查字典。你是根据上一个词，凭直觉「猜」一个最合理的下一个词。
AI 做的就是同样的事。只不过它的「直觉」比你强一亿倍。
它读过了互联网上几乎所有的公开文本——书籍、论文、新闻、论坛、维基百科、代码……
它从这些海量的文本中，学会了一件事：
在什么样的上下文里，下一个词最可能是什么。
比如：
当前面的文字是「中国的首都是」——
它根据概率计算，下一个词 99.9% 是「北京」。
这时候它的回答是对的。
因为在它读过的几百万个句子里，「中国的首都是北京」出现了无数次。概率极高。
但如果你问的是一个小众问题呢？
比如：「Richard Short 在 2019 年的《消费行为的隐形逻辑》中提出了什么观点？」
它读过的文本里根本没有这本书——因为这本书不存在。
但它不会说「我不知道」。
它会根据「消费行为」「隐形逻辑」「2019年」这些词的概率分布，即兴生成一段看起来像模像样的回答。
就像一个参加了 1000 场面试的人——
哪怕遇到一个完全不会的问题，他也能凭经验编出一个听起来很像样的回答。
面试官未必能分辨。
但答案是假的。
03｜所以，AI 在什么时候靠谱，什么时候不靠谱？
理解了「文字接龙」的本质之后，你就能推导出一条极其重要的规律——
AI 的可靠程度，取决于它在训练数据中见过多少「类似的文字」。
| 零 |
看到最后一行了吗？
你问 AI：「我上个月读的那本关于谈判的书叫什么来着？」
它不知道。它不可能知道。它从未见过你的任何笔记。
但它不会说「我不知道」。
它会根据「谈判」「上个月」「书」这几个词的概率分布——
给你编一个书名
而且说得特别自信。
这就是为什么——直接把 AI 当成搜索引擎用，迟早翻车。
它擅长的不是「回忆事实」。
它擅长的是「生成看起来合理的文字」。
这两件事之间的差距，可以大到让你在公开场合引用一本不存在的书。
04｜那 AI 到底有什么用？
看到这里，你可能有点失望——
「所以 AI 会编东西、会犯错、不能完全信任？那我之前几篇文章说的那些什么’向笔记库提问’‘AI自动发现关联’，不也靠不住吗？」
别急。
这里有一个关键的转折——
AI 不靠谱，是因为它没有「可靠的原材料」。
但如果你给它可靠的原材料呢？
让我用一个类比来解释。
想象 AI 是一个极其聪明、极其勤奋的实习生。
这个实习生有一个特点：
你给他什么材料，他就能根据这些材料帮你做出色的工作。
你给他一份完整的市场报告，让他写一份摘要？——完美。
你给他你过去一年的读书笔记，让他找出和当前项目相关的内容？——精准。
你给他 10 条旧笔记，让他生成一篇文章大纲？——效率惊人。
但如果你什么材料都不给他，直接问他一个问题呢？
他不会说「我不知道」。
他会凭自己的「常识」和「经验」给你编一个答案。
大部分时候还行。但有些时候——
他会一本正经地胡编乱造。
不是因为他坏。而是因为他手上没有原材料，但又不想让你失望。
所以你用 AI 的正确方式，不是——
❌「AI 你来告诉我答案。」
而是——
✅「这是我的笔记/资料/背景信息，请你基于这些内容帮我做 XXX。」
给材料 vs 不给材料，是「靠谱的 AI」和「胡扯的 AI」之间唯一的区别。
05｜这就是你的笔记库存在的意义
现在你明白了——
AI 靠不靠谱，取决于它手上有没有「你的」原材料。
而什么东西里存着你所有的原材料？
你的笔记库。
让我重新解释一下第 3 篇文章里那个「凌晨 2 点」的故事——
当我向笔记库提问「帮我找那个日本居酒屋的案例」时——
AI 做的事情不是去互联网上搜索「日本居酒屋复购」。
它做的事情是：
text
第一步：去我的 Obsidian 笔记库里，
搜索所有和我的问题语义相关的笔记第二步：找到最匹配的几条笔记，
读一遍它们的内容
第三步：根据这些笔记的内容，
生成回答
你注意到了吗？
它不是在凭空回答。它是先「查阅」了我自己的笔记，然后再回答的。
它给出的每一句话，都来自我自己曾经写过的内容。
它不是在猜。不是在编。不是在做文字接龙。
它是在读你的笔记，然后帮你总结、关联、输出。
这个过程，有一个技术名词，叫——
RAG（Retrieval-Augmented Generation）。
中文叫「检索增强生成」。
名字很唬人，但原理很简单：
先检索，再生成。
先从你的知识库里找到相关内容（检索）。
再基于这些内容生成回答（生成）。
「检索」保证了事实的准确性——因为源头是你自己的笔记。
「生成」保证了回答的智能性——因为 AI 可以总结、关联、推理。
这就是为什么：
你直接问 AI「帮我推荐一本消费心理学的书」→ 它可能编一本不存在的书 你让 AI 基于你的笔记库回答「我读过哪些关于消费心理学的书」→ 它精准地列出你真实读过的每一本
同样的 AI，同样的大脑。
区别只在于：它手上有没有你的知识库。
有你的笔记库 = 一个能力超群且手上有全部资料的助理。
没有你的笔记库 = 一个能力超群但什么资料都没有，只能靠编的实习生。
06｜一张图，让你彻底看清
让我把这两种模式放在一起，你就全懂了：
text
【模式一：裸奔模式】（大多数人现在的用法） 你的问题 ──────────→ AI（大脑里只有互联网旧数据）
│
↓
根据概率生成回答
│
↓
🎲 可能对，也可能编的
text
【模式二：知识库模式】（你应该用的方式） 你的问题 ──→ AI 先去你的笔记库里搜索
│
↓
找到 3-5 条相关笔记
│
↓
基于这些笔记生成回答
│
↓
📌 每句话都有出处，可溯源
模式一 = 把 AI 当算命先生。你问它，它猜一个。
模式二 = 把 AI 当私人研究助理。你问它，它先翻你的资料柜，再给你答案。
你这四篇文章看下来，一直在认真记笔记、建知识库——
你以为只是为了「整理」？不。你是在为 AI 准备弹药。
你的笔记库越丰富、越优质——
AI 能帮你做的事情就越多、越准确。
你的知识库，就是 AI 的地基。
没有地基，AI 就是空中楼阁。
有了地基，AI 就是你的超能力。
07｜三条原则，让你的 AI 永远不翻车
好了，理解了 AI 的本质之后，我给你三条在实际使用中可以立刻执行的原则。
记住这三条，你用 AI 就不会踩坑。
🔹 原则一：永远先给材料，再提要求
❌ 错误用法：
「帮我写一篇关于用户留存的文章。」
AI 会凭空编造观点、数据、案例。大部分似是而非。
✅ 正确用法：
「以下是我关于用户留存的 5 条笔记（附笔记内容）。请基于这些笔记，帮我生成一篇文章大纲。」
AI 的每一句输出，都有你自己的笔记作为依据。不编，不猜。
一句话总结：别让 AI 裸奔。先给衣服（你的笔记），再让它干活。
🔹 原则二：AI 写初稿，你做终审
即使给了 AI 你的笔记作为原材料——
它生成的内容仍然需要你过一遍眼。
因为 AI 可能会：
过度总结，丢掉你觉得重要的细节 把两条笔记的观点混淆 生成的语气和你的个人风格不一致
AI 是初稿机器，不是终稿机器。
它帮你从 0 到 70%。
你负责从 70% 到 100%。
这最后的 30%——你的判断、你的风格、你的灵魂——是 AI 永远替代不了的。
也是你存在的价值。
🔹 原则三：对 AI 的输出，保持「信任但核实」的态度
这个原则借用了美国前总统里根的一句名言——「Trust, but verify.」
信任 AI 的能力，但核实它的输出。
特别是当 AI 的回答中涉及到：
具体的数字和数据 具体的人名、书名、机构名 具体的时间和事件
这三类信息，是 AI 最容易「编」的。
因为精确的事实在它的概率模型里，比模糊的观点更难「猜对」。
所以——观点层面，可以高度信任。事实层面，必须二次确认。
养成这个习惯，你就可以安心享受 AI 的超能力，同时不用担心被它坑。
08｜一个更深层的认识
最后，我想讲一件事。
很多人在了解 AI 会犯错之后，反应是——
「那我还是别用了，靠自己比较稳。」
这就像你知道飞机有可能遇到气流颠簸，然后决定——
「那我还是走路去纽约吧，比较稳。」
AI 不完美。它会犯错。它有幻觉。
但它依然是人类���史上最强大的知识处理工具。
一个有幻觉但你知道如何驾驭的 AI——
远好过一个没有 AI 辅助、纯靠自己翻找笔记的你。
关键不是 AI 完不完美。
关键是你知不知道它的边界在哪里。
而现在，你知道了：
✅ AI 擅长什么 → 基于你给的材料做总结、关联、生成
❌ AI 不擅长什么 → 凭空回答没有原材料的精确事实
✅ 怎么用才安全 → 先给知识库，再提要求；AI 出初稿，你做终审
理解了这些，你就不是一个「被 AI 忽悠」的小白——
你是一个「知道怎么驾驭 AI」的高手。
这是两种人之间最大的分水岭。
而你，此刻已经跨过去了。
09｜回到原点：为什么这 5 篇文章是一条完整的线
让我帮你回顾一下你从第 1 篇走到现在的全部路程——
text
第1篇：你的收藏夹是焦虑坟场
→ 别再囤了第2篇：你的笔记库是一间仓库
→ 囤了要用（仓库→工厂）
第3篇：你的笔记库应该能「思考」
→ 让它活起来（硬盘→CPU）
第4篇：扔掉文件夹，拥抱链接
→ 用对的方式组织知识
第5篇（本篇）：AI 不是神，但也不是骗子
→ 理解它的本质，才能驾驭它
五篇下来，你已经完成了一次完整的认知重启：
从「盲目囤积」到「以产出为目标」；
从「文件夹分类」到「链接网络」；
从「把 AI 当神」到「把 AI 当实习生」。
你的知识管理理念，已经升级了一整个版本。
接下来，就是把这些理念落地的时候了。
🗣️ 来测一下你中过几次招
你有没有被 AI「一本正经地胡编乱造」骗过？
回忆一下——
让 AI 推荐书，推荐了不存在的书？ 让 AI 引用数据，引用了编造的数据？ 让 AI 写一段专业内容，看起来像那么回事，但经不起细查？
评论区说说你被 AI 「骗」得最离谱的一次经历。
我先来：
有一次我让 AI 帮我查一条心理学实验的出处。它言之凿凿地说来自「Kahneman & Tversky, 1983」。
我兴冲冲地去查了这篇论文——
发现 1983 年这两位大佬确实发了论文，但内容和 AI 说的完全不一样。
它用了真实的作者和年份，嫁接了一个虚构的实验结论。
真名字 + 假内容——这是 AI 幻觉最高级的骗法。 😂
你呢？来评论区分享你的「AI 翻车现场」👇
✍️ 我是一只阿木木，一个知道 AI 会犯错、但依然每天用它写东西的人。
前五篇，我完成了整个系列的「心法篇」——
别囤了、要用、让它活起来、用链接不用文件夹、理解 AI 的边界。
从下一篇开始，我会正式进入**「实战篇」**——
一个你一直听过但可能从未真正弄懂的方法：
一位德国公务员的 70000 张卡片到底是怎么运作的？在 AI 时代，这套方法如何被彻底自动化？
而且我会给你看一个完整的演示——
一篇 3000 字的文章被 AI 自动拆成 7 张「原子卡片」的全过程。**
👉 《一个德国公务员用 70000 张卡片写了 58 本书，现在 AI 让这个方法人人都能用》
关注「一只阿木木」**，下个路口见。
📞 AI+obsidian 读书与知识管理星球
请点击了解详情 →
AII
松花酿酒，春水煎茶。
眉上风止，见字如晤。
一只阿木木