AI 越强，企业就越能用好 AI 吗？

AI 越强，企业就越能用好 AI 吗？未必，而且大概率是否定的。而且今天我想提出一个新词： Data in the Loop. 听我娓娓道来。

为什么说未必呢？你想想，模型现在是什么水平？GPT 一代代往上更新，Claude 能读能写能推理，开源模型随手一部署就能聊得像模像样。按理说，工具都递到手边了，企业应该把 AI 用得风生水起才对。可你去问问那些真把 AI 往业务里塞的人或者公司，十个里有八个在挠头。问题出在哪儿？不在模型那头，在业务数据这头。

我们一起来捋一捋。AI 进了企业，它要干活，靠的是什么？靠的是知道这家公司里发生了什么。客户上周投诉了什么，合同里那条免责条款怎么写的，产线上哪个参数最近老飘，这些信息不在模型的预训练权重里，在你家的数据库、文档库、邮件存档、工单系统里。模型再聪明，看不见这些东西，它就是一张白纸，只能跟你打官腔。更麻烦的是，它会编。它不知道答案，但它不说不知道，它给你一个听起来特别像那么回事的答案。这就是幻觉。幻觉在闲聊里是段子，在风控里是事故，在给患者的医疗建议里是灾难。搜出来的学术研究也印证了这一点，RAG 之所以被寄予厚望，就是因为把检索到的真实文档塞进上下文，能把幻觉率往下压一压。但注意，这里有个前提：你得有东西可检索。

那企业有没有东西？有，而且多到溢出。问题在于，这些东西的状态，用难听的话说，叫蛮荒西部。某企业的一位首席架构师描述他们内部数据的时候，原话是“数个 PB 级的数据，一半站点甚至没有责任人，我们根本不知道它们上次是什么时候被访问的”。xx 投资更典型，存了几十年的研究报告，全是 PDF，平时没人碰，结果 Copilot 一上，两天之内法务就找上门了，因为 AI 把那些早该被遗忘的存档全给翻了出来。这些数据平时躺在那里不碍事，AI 一来，它们全变成了风险敞口。这就是暗数据，不是没数据，是你不知道它在那儿、不知道它归谁管、不知道它能不能见光。

再往深了说，就算数据你的 AI 都能看见，它也是散的。客户信息在 CRM 里，交易记录在核心数据库里，通话录音在客服系统里，聊天记录在企微里。这些系统之间不通气，数据格式不一样，更新节奏不一样，权限模型不一样。AI 要回答一个稍微跨点部门的问题，比如“上季度华东区买了 A 产品的客户里，最近三个月打过投诉电话的有几家，他们续约概率怎么样”，它得同时够到四五个系统。如果这些系统还是各管各的，AI 要么够不着，要么够到了也拼不起来，拼不起来就会用局部信息给出一个自信的错误答案。这比不回答更可怕。有调研数据佐证我的这个判断：56% 的组织把“系统割裂和部门孤岛”列为 AI 落地的头号障碍，70% 的组织无法有效追踪 AI 所用数据的生命周期。你看，问题不在算力，不在算法，而在数据未治理。

那是不是把数据都塞进一个湖或者一个仓就完了？也不是。这里有个更隐蔽的坑：结构化数据只是冰山一角。企业里百分之九十的数据是非结构化的，文档、邮件、会议纪要、扫描件、图纸、音视频。这些东西传统的数据库根本处理不了，SQL 查不了 PDF 里的一段话。而恰恰是这些非结构化数据，承载了企业最核心的业务上下文。合同的风险点藏在条款措辞里，客户的真实情绪藏在通话录音的停顿里，工艺的诀窍藏在老师傅手写的笔记里。AI 要真能办事，就得能读懂这些东西，而不是只查表格。

说到这，你肯定会问，到底现在业界有没有已经趟出来的可落地的方案？这也是我准备 11.24 去参加 OceanBase AI 数据大会的目的，这次会议主题定的是“重建确定性”，我猜他们想说的就是这个：确定性的来源不在模型有多大概率预测下一个 token，而在你喂给它的那条数据是不是真的、全的、当下的、有权限的。

接下来要聊的就是边际收益的问题了。我们回头看“AI 越来越强”这件事。模型能力的边际提升，但对企业落地的边际帮助其实在递减。从 GPT-3 到 GPT-4，惊艳感是断崖式的；从 GPT-4 到现在的各种变体，日常用起来差别没那么大了。但数据治理的边际投入，相比于模型来说回报是明显递增的。你把散在五个系统里的客户记录打通一次，所有涉及客户的 AI 场景都受益。你把十年的合同 PDF 做一遍结构化抽取和权限标注，法务、销售、风控的 AI 应用同时往前迈一步。Iron Mountain 的调研里有个数字可以说明以上逻辑的正确性：四成组织在 AI 项目上花的时间，超过百分之四十花在手工数据准备上。这哪是搞 AI，这是在做数据苦力。

所以我非常关心 OceanBase 这次大会打算怎么聊。他们 CTO 杨传辉之前讲过一句话，大意是“大模型幻觉问题的源头也是数据问题”。所以我特别想看他们怎么把数据库这件事重新定义。传统的数据库管结构化数据管得很好，但 AI 要的不是“管好”，是“喂饱”。喂饱意味着向量要能搜、全文要能检、图关系要能遍历、JSON 半结构化要能拆，而且这些能力得在一个引擎里完成，不然 AI 查一次数据得跨三个系统做四次 join，延迟和出错率都扛不住。他们这次闭门会分了银行、保险、央国企、汽车、具身智能好几个场子，我也特别想看看他们的跨模态检索在真实业务流里用得怎么样。

最后总结一下参会前，我整理的三个问题：

• 第一个：你这套东西，处理一个跨三个异构系统的查询，端到端延迟是多少？别给我看 benchmark 的 QPS，我要看业务链路。
• 第二个：暗数据怎么发现？是靠客户自己列清单，还是系统能主动扫出来、标出来、告诉你“这块数据三年没人碰了但含敏感字段”？
• 第三个：幻觉的兜底机制是什么？是 RAG 的引用溯源，是规则引擎的硬拦截，还是人工复核卡点？

说到底，AI 越强，对数据的要求会越苛刻，而不是越宽松。一个实习生犯错你能容忍，一个专家犯错代价就大了。企业把 AI 请到业务现场，等于请了一个有知识储备但缺乏对业务了解的专家。你得把家底收拾清楚，告诉它什么能看、什么不能看，什么是对的、什么是过时的，它才能替你干活而不是闯祸。这件事没有捷径，模型厂商替不了你，云厂商替不了你，只能自己一铲子一铲子挖。

一起去大会听听别人踩过的坑和成功的经验吧，比看秀肌肉有用得多，我还想看看他们的开源 PowerContext 怎么样了、SeekDB 嵌入式数据库未来的 roadmap等。哦，怎么报名？看这AI 数据大会，来了！