聊聊 Data in the Loop

"Data in the Loop" —— 这个词是我在写AI 越强，企业就越能用好 AI 吗？这篇文章时起的，而且我相当满意，因为它把因果方向给翻过来了。

你注意现在满世界都在说 Human in the Loop，人在回路里做审核、做兜底、做最后一道闸门。这个说法默认的框架是：AI 是主体，人是辅助，人站在 AI 跑出来的结果旁边盯着，出事了拦一把。其实人在回路的第一性原理是人懂业务、人有权限管辖、人有数据支撑。实际上把 Data in the Loop 搞定后，人的工作量才会大量减轻，长程任务的自动化程度才会更高。

企业里卡脖子的从来不是"AI 输出没人看"，而是"AI 压根没拿到该看的东西"。你让人在回路里守着，守的是一台饿着肚子干活的机器，它吐出来的东西你拦也不是、不拦也不是 —— 拦了业务骂你，不拦合规骂你。所以真正该进回路的不是人，是数据。Data in the Loop，意思是数据不是 AI 的"输入物料"，而是 AI 运行时的持续参与者，它得在回路里转，一圈一圈地转。

我先把这两者的区别说清楚。Human in the Loop 是事后的，AI 跑完，人看一眼，pass 或者 reject。Data in the Loop 是事中的，AI 每走一步，数据都在旁边说话：这个客户上个月刚被标记过风险，这条合同条款去年修订过一版，这个物料供应商换了。区别在哪儿？在时序。事后审核只能改结论，事中喂数据能改推理路径。一个信贷模型如果只在最后被人拦一道，那它前面已经沿着错误的前提推了二十步；但如果它在第三步的时候，回路里那条"该企业近三个月有三笔商票逾期"的数据主动冒出来，它压根不会往那个方向走。这不是打补丁，这是改航道。

再往深思考：Data in the Loop 里的"Loop"，到底是个什么形状的环？我琢磨着不是简单的"数据→模型→输出→数据"这种圆圈，那太理想化了。真实的回路是多层的、异步的、带反馈的。

• 最内层是检索回路：模型每生成一段，就去向量库或者全文索引里捞一次相关片段，这叫 RAG，大家都熟。
• 中间层是状态回路：AI 干到一半，发现需要查一下这个订单当前的状态，它得能主动去调一个 API 或者查一张表，拿到实时数据再接着往下走，这是 agent 那套 tool use 的逻辑。
• 最外层是治理回路：AI 这次用到的数据，谁授权的、什么密级、有没有过期、用完要不要留痕，这些元信息得跟着数据一起在回路里走，不能数据进去了、权限留在门外。

三层回路各转各的，但共用同一份数据资产，这才是企业级的样子。你要是只有最内层，那就是个高级搜索；三层都转起来，数据才真正"in the loop"。

所以我开头说“把 Data in the Loop 搞定后，人的工作量才会大量减轻，长程任务的自动化程度才会更高”。Data in the Loop 转得越顺，Human in the Loop 的需求反而越少，但剩下的人那一下越关键。 为什么？因为数据在回路里把大部分"信息缺失型错误"给消化掉了 —— 模型不再因为不知道而瞎编，它不知道的时候回路里有人告诉它。剩下的是什么错？是判断型错误：数据都对，逻辑也对，但这个决定不该做。比如客户确实符合所有放贷条件，但这家企业所在的行业正在被政策收紧，这条信息不在任何一张表里，在老信贷员的脑子里。这种错，数据回路救不了，必须人在回路里拦。所以你看，Data in the Loop 不是把人踢出去，是把人从"天天当校对"升级成"关键时刻当法官"。前者是消耗，后者是价值。

说到这，我必须要提醒一下，Data in the Loop 有个大前提：回路里的数据，凭什么信它？ 你把数据喂进回路，数据自己也会过期、会冲突、会撒谎。CRM 里客户等级是 A，但财务系统里这家客户应收账款逾期九十天，两个系统各说各话，回路转起来之后模型听谁的？这就引出一个词 —— 数据的时间戳和置信度也得进回路。不是喂一条"客户等级 A"就完了，得喂"客户等级 A，更新于 2024 年 3 月，来源 CRM，与财务系统冲突，建议以财务为准"。数据带着 provenance（来路）和 freshness（新鲜度）进回路，模型才有办法做权衡。不然你就是把数据孤岛从系统层搬到了模型上下文里，孤岛还是孤岛，只是换了个地方打架。

再开一个脑洞：Data in the Loop 会不会让数据本身变成一种"可编程"的东西？现在数据是被动的，你查它它才动。回路转起来之后，数据可以带触发器 —— 这条合同到期前三十天，自动往回路里推一条提醒；这个客户风险评分跌破阈值，自动打断正在跑的推理。数据从"被检索的对象"变成"会主动发言的参与者"。这听着玄，其实就是把数据库的 trigger、CDC（变更数据捕获）这些老机制，接到了 AI 的运行时上。老技术，新用法。真做成了，企业里那套"数据治理"的活儿就从静态盘点变成了动态调度，治理不再是年底填表，是回路里每分每秒都在发生的事。

AI 越强，越像一个能力很强但信息闭塞的新员工。Human in the Loop 是给这个新员工配个师傅盯着，Data in the Loop 是把公司的档案室、会议室、工位聊天记录实时接到他耳朵边上。前者治标，后者治本。而且这个本一旦治好了，回路会自我强化：用得越多，数据被调用得越多，哪些数据有用、哪些是垃圾、哪些该更新，全在回路里留下痕迹，强化飞轮就转起来了。

你怎么看我给取的 Data in the Loop.