产品犬舍

不是人类在 AI 面前一败涂地,而是你在 AI 面前一败涂地

这几年,人类在 AI 面前一败涂地这种观点很常见,大意是 AI 迟早会平等地践踏过每一个人,颇有种天街踏尽公卿骨的快感。

我并不这么认为。当前语言大模型技术路线下的 AI 有很明确的能力边界。当你在 AI 面前一败涂地的时候,并不代表所有人在 AI 面前一败涂地。

对此,我今年上半年有一些(回头来看)质量不高的表达方式。比如 4 月的公众号:2026 年初我对 AI 的结构性认知,本文留待一年后印证,其中的核心观点是:

AI 作为概率机器,赋能的多少主要取决于命题的收敛和开放。

需要 AI 计算的命题越收敛,越能发挥最大公约数的概率优势,在语料充分的基础上 AI 交付质量达到 8-9 分也不意外。(满分 10 分)

当 AI 开始计算开放性命题的时候,个性化的开放性命题不存在大概率的解法,于是 AI 进行抽卡,提交 3-6 分的交付。除非该命题的容错率很高,否则命题越开放,越个性化,AI 交付质量越低。

因此,我保持过去三年的观点,AI 无法在开放性命题上达到 8/10 分,也就是准专家水准。

在 5 月的公众号里,我继续补充:

概率机器计算开放性命题的困境是什么呢?是一件事本来就没有标准答案。

不同的逻辑线,得出不同的答案。哪一个答案最符合提问者的心意,就要对齐提问者的逻辑线。

在海量语料面前,AI 可以对齐普天之下的标准答案。但 AI 并不了解我,概率机器并不能对齐我的最佳答案。对于我这个人,我所处的环境,AI 掌握的语料远远远远不足。我向 AI 输入这些信息的带宽太窄了,远远低于人类在现实相处中的信息交换带宽。

AI 可以在通用语料的基础上理解人类,无法在缺乏个性化语料的基础上理解一个人以及他的环境。

上面这两段观点,虽然并没有被自己推翻,半年后再看真的是太肤浅了。

这一次,只用两句话描述我眼里 AI 的能力边界:

  1. AI 无法在约束模糊的基础上,拟合完整的关键约束

  2. AI 无法在高验证成本下,大规模试错逼近正确答案

第一条边界限制 AI 做对的能力;

第二条边界限制 AI 通过试错来弥补第一条边界的能力。

先从第一条边界开始。

现实世界中的命题,一开始并不能穷尽所有的约束,这是极为常见的情况,越复杂的命题越无法穷尽约束。但如果不能提供完整的关键约束,AI 就不能交付可靠的计算结果。

现实世界偏偏有这么多上下文缺失的命题。

对此,人类专家一方面用过往经验去拟合约束,另一方面会主动追查,二者结合补充完整的关键约束。

以及相当多的约束并不是一开始就浮现出来的,而是在探索命题的过程中逐渐浮现出来。这个过程如果由人类处理,当然能理解渐进式披露的约束,但按照现在最流行的处理方式,人类把大量的思考和执行委托给了 AI,你怎么确保 AI 完整理解过程中浮现的约束?

根本无法确保,同时也很难监督。

如果遗漏了大量的约束,根本不可能获得高质量的交付,而是获得一份能跑通测试集的交付,然后在真实应用时不断地撞到约束之墙。

接着说第二条边界:AI 高效赋能的一大前提,是这个命题的验证成本可接受。

比如 AI 交付了一项公司策略,执行较长时间之后才能够回收反馈,无法快速验证策略但影响重大。

比如 AI 重构了一套运行几十年的企业系统,代码虽然能通过自动化测试,很可能覆盖不到真实业务中大量没有被文档记录,也没有被测试覆盖的隐性场景,重构一上线就容易带来生产事故。

比如 AI 计划生成头部水准的网文,灰度测试了 100 万篇网文均未达到目标,也许在概率上排列组合 100 亿篇网文可以做到,但显然哪里都没有这么大的流量池。

在这些例子里,概率机器虽然有低成本生成的优势,依赖于现实世界的验证成本并没有同步下降。AI 无法通过大规模试错逼近正确答案,只能由人类将以上命题拆解,让 AI 完成验证成本较低、或容错率较高的任务。

现实世界经常不会向你准确地描述问题,也不允许你反复尝试寻找答案。

综上,如果 AI 解决不好这两条边界,面对高验证成本的命题时,无法用计算优势补全关键约束,低容错率&高价值的智力活动依然属于人类:「在语料不足时拟合完整的关键约束,在高验证成本的命题下提高决策胜率」。

我这么讲,很多 AI 信仰者是不爱听的。尤其搞话题的媒体热衷于找出一些约束天然完整,对算力要求极高的命题,单方面宣布 AI 完胜人类,只能说哗众取宠……人类的优势并不是算力,而是在模糊约束下的拼图能力。

现实世界中,高价值的命题几乎全是约束模糊同时语料不足的,在一片模糊中一步步拼出完整的关键约束。此时一旦涉及到高验证成本,则概率机器的计算优势难以转换为决策胜率,而人类专家无法语料化的 “经验” 闪闪发光。这份专家判断力来自于 AI 无法具备的 “昂贵的现实试错”——现实世界只给少数人类这个机会,用过去的试错减少今天的错误,非亲历者不可感知。

换句话说,AI 与人类,拥有更多试错机会,获得更多有效反馈的一方具备更强的能力。以至于依赖于现实世界的的验证成本越高,人类专家的优势越大;在电脑内闭环验证的领域(比如围棋)则由算力王者大杀四方。

这也能解释为什么 AI 编程如此先进,却无法线性外推到其他场景的原因。编程中大量的任务可以依靠算力来验证,机器得到的反馈秒杀人类。但无论算力发展到何等地步,终归有大量的计算题要面对 “在现实世界验证答案” 这个瓶颈。

因此,在现实中定义高质量问题,拟合关键约束,预判正确答案,这些高价值的智力活动并不会在 AI 时代贬值,也是人类专家不可替代的理由。保值的关键不是智力活动的高级与低级(围棋也很高级),而是谁能从更多的试错机会中学习。

如果你的任务 AI 有很多机会去做并获得有效的反馈,AI WIN;

反之则 HUMAN WIN。

和我协作完成这篇文章 的 GPT 用了一句 AI 味特别重的话来收尾(放心,内容还是我古法敲出来的,AI 只是我的讨论对象):

真正重要的不是问题有多难,而是有没有条件通过反复学习把它做对。


内容来自“用思考交换思考”的古典产品论坛「犬校」。©2017-2026

点击【阅读原文】,可见犬校最近一年的好帖索引。

加入犬校:【犬校 2026 年加入方式】国家不幸诗家幸,行业不兴话痨兴
图片