我在腾讯云架构师成都同盟群被打脸了- 先出发, 还是“准备好”再出发?

今天腾讯云架构师成都同盟群里炸了, 热闹来自捷哥抛出的一个话题: “一个企业的 AI 团队，如果xxxxx，那么，很快就会从一个创新中心，变成一个成本中心。不创造价值，而大量增加成本. 请大家补充 xxxx 里的内容”.

先给大家 3 秒钟, 你会怎么答? 

我当时的第一反应是："基于 AI 已具备创造价值的能力、代价收益模型可控的前提，人只是它的启动程序，自举将成为 AI 持续存活的必备能力。"

事后一想，这话错得离谱但已经无法撤回了 —— 错就错在"已具备"三个字上。它悄悄跳过了一个更底层的问题：到底是先出发，还是"准备好"再出发？

现实里根本没有"准备好"这一说。 亏得之前还分享过这一期: 《德说-第520期, AI 时代真正稀缺的是: 行动力+心力+愿力》  被自己死死钉在耻辱柱上了.

tmd 改变思维惯性这事可能比戒酒还难, 得一点一点来.

下面借这个话题，聊聊 AI 的自举性 —— 这大概率是未来企业数字员工的必备能力之一，但兑现的方式，可能和大多数人想的不太一样。

自举从来不是凭空发生的

"自举"（bootstrap）最早是编译器理论里的概念：用 A 语言写一个能编译 A 语言自己的编译器。听着绕 —— 工程师的解法是先用别的语言写一个最简陋的"引导版本"，再靠它一点点扩展出完整功能。

自举能成立，恰恰因为外面有个起点。系统不是凭空长出自我改进能力的，而是被一个更原始的外部版本领进门的。放到 AI 身上同样成立 —— 不管是模型自我改进，还是数字员工自我进化，改进的方向靠什么锚定？如果一个系统完全靠自己评估自己的进步，它拿什么保证自己没有在自娱自乐？

这不是哲学思辨。哥德尔证明过：任何自洽的形式系统都没法证明关于自身结构的所有真理；换到计算理论，就是停机问题 —— 程序没法对"自己会不会卡死"这类关于自身的问题给出普遍答案。系统越复杂，这个盲区可能越难被自己发现。所以真正靠谱的自我改进循环，几乎都得留一道外部的口子 —— 独立评估基准、人类审核节点，而不是让系统自己既当运动员又当裁判。今年行业里讨论的"分级递归能力"加"分级监管闸门"，本质就是把改进流程人为拆开、插进检查点。

数字员工 "如何变聪明" 和 "自举" 无关

今年 6 月 Anthropic 披露：截至 5 月，公司代码库里超过 80% 的合并代码是 Claude 自己写的，旗下智能体累计跑了约 800 小时开放式 AI 安全研究实验。"AI 自举"这个词，一下从安全研究者的黑话变成了朋友圈热词。

但这说的是模型层面的事 —— AI 实质性参与了下一代 AI 系统的训练研发。这跟企业老板想要的"数字员工自己进化"，完全是两个维度，很容易被搅在一起。

企业现在真正部署的数字员工，"自我进化"靠的啥?

接到模糊任务，比如"分析上季度销售数据、生成报告"，能自己拆解成提取、清洗、分析、出图几步，某一步卡住换个路子继续走 —— 靠的是决策链路上的强化学习，不是模型自己重写权重。有个真实案例：某企业用这类方案处理财务对账和供应链协同的手工操作，上线后核心流程效率提升 300%，人工错误率压到 0.1% 以下。这类"有边界的自适应"，才是眼下企业真正买单、也真正负责任地部署得起的能力。

企业为什么需要这种能力？经济账很好算：买数字员工，是想用"确定性产出"换掉"人工介入的成本"。如果每次业务变化都得工程师手动改代码，维护成本会随复杂度指数上涨,到最后跟雇人没本质区别。

其实关于数字员工如何变聪明这个话题, 我在北大论文中也看到过解决思路:

• 《AI论文解读 | DataFlow-Harness — 让 LLM 直接搭建可编辑的数据流水线》
• 《从预训练、后训练、后推理到后学习, 模型效率边际收益引发的技术迁移》
• 《AI论文解读 | 北京大学 K12-KGraph 论文解读 : 知识组织决定了 AI 后学习/推理性能?》

"安全搞定之后"这个前提，大错特错

回到我开头提的假设 —— "搞定 AI 安全之后"。这话听着像在描述一个终点，越过去自举性就顺理成章释放。但从治理实践看，这更像一种线性叙事的错觉。

AI 安全从来不是某天被"解决"然后翻篇的事, 更像一套需要持续运转的机制 —— 分级监管、闸门检查、权限最小化,这套东西今年才刚开始搭。

与其说自举性是"安全解决后的奖励",不如说它更可能跟治理框架同步演化、分阶段、分权限释放 —— 企业级 Agent 已经在没等到"安全被彻底解决"的前提下，把自适应能力用在了对账、单据处理这类结构性强、可回滚的场景里，只是权限卡得很死。

安全治理继续成熟后，释放出来的大概率也不是"完全自主的自举", 而是权限边界往外挪一点点。这跟"先解决安全,再一次性放行自举"的两阶段想象,是两幅完全不同的图景。

数字员工变强了，人的生存问题呢

还有一层躲不开的追问：数字员工真具备自我进化能力，对人的饭碗意味着什么？

过去几十年，经济学家一直预测自动化带来大规模失业，方向大体对，但时间点总判断错 —— 工业机器人冲击了制造业，但没按最初预想的速度和规模来。这一轮不一样的地方是：被冲击的换成了法律研究、财务分析、咨询这类过去被认为"自动化免疫"的知识工作，原因很直白 —— 这些岗位的核心任务是处理信息, 这正好是大语言模型能以有竞争力的质量完成的事。

AI 暴露度最高的不是低薪岗位, 而是高薪知识工作者, 这跟以往几轮自动化"先冲击底层"的模式正好反过来。更具体点,22 到 25 岁、处于高 AI 暴露职业的年轻人,在 2022 年 11 月到 2025 年 12 月间就业率跌了 13%, 主要不是老员工被裁, 而是新人更难找到入口。与此同时,高暴露行业的名义周薪涨幅达到 16.7%, 是全经济体平均涨幅的两倍还多 —— 入口变窄, 留下来的人涨薪更快。

今年 7 月,两百多位经济学家和研究者(其中 16 位诺贝尔奖得主)联合发声,认为 AI 可能以超过工业革命的速度和规模重塑经济, 呼吁提前搭建应对制度。

过去的自动化假设机器一次啃掉一个子任务, 岗位作为"协调剩余人类工作的外壳"还能活下来。可一旦数字员工真具备自我修正、自我扩展的能力,它啃掉的可能就不再是某个子任务,而是有能力接管"协调"这个角色本身 —— 这才是自举性真正让人紧张的地方: 不是它现在造成了多少失业, 而是它一旦规模化, 冲击的对象从任务清单变成了岗位存在的组织逻辑。

所以，AI 自举到底成不成立

方向没错，但它不会等一个叫"AI 安全"的问题被解决之后才启动,而是已经在以"有边界的自适应"这种克制得多的形态,出现在对账、单据处理这类企业场景里了 —— 效率提升三位数、错误率压到 0.1% 以下的案例已经在发生。

真正决定这件事发展速度的, 不是安全问题解不解决, 而是治理机制能不能跟上 —— 外部锚点在不在、验证机制稳不稳、权限边界卡得住卡不住。跟到位了,自举性会一点点、分阶段变成标配;

治理机制跟不上的话, 企业买到的可能不是"越用越强的员工", 而是一个自己给自己发好评、谁也说不清哪天会卡在什么地方的黑箱。