叶小钗

提示词已死,上下文工程当道?我去NMD,别再骗我学习了!

你好,小钗是连续的AI创业失败者。在医疗AI、教育AI、管理AI有丰富的失败经验

关注公众号,回复1,与我交个朋友吧

我是发现互联网这批人真的有个共同的特点,无论中外:他们都特别会整活,尤其是创造名词这块!

前些日子相继出了些MCP、A2A、Agentic AI、世界模型 (World Model)等,我TM都要被他们整麻了!

结果最近他们又弄了个上下文工程,简单来说就是带记忆的提示词,非要简单的理解就是比较长的提示词!

Image

我是真服了这些人了,这个所谓上下文工程,我们一年半之前在生产环境都用完了,结果现在发现个新的名字,看来确实从DeepSeek出来到Manus爆发,市面上真的没太多拿得出手的AI应用,大家都开始整活了...

什么是上下文工程

如图所示:

Image

记忆功能是智能体的基础,之前一般是配合RAG生成提示词达到要求。现在可能是大家有一套更好的方法论了,就给他取了个名字叫:上下文工程。

他的核心在于给模型提供恰到好处的“上下文”,让他能更好地理解任务,完成复杂的工作。

事实上之前提示词工程也是这么干的,只不过现在为了夸耀上下文工程,他们又开始摸黑提示词工程只能提供单一指令了,还是那句话所有的AI应用就跳不出这个图:

Image

其本质都是Prompt提示词,你再怎么换马甲都是。这里以之前文章的案例做说明:为什么AI多轮对话那么傻

如果脱离背景,你跑去问GPT:什么是副班长?这并不会搞得模型很抓狂,但他会给你莫名其妙的回答:

  1. 如果你在学校环境听到“副班长”,那几乎肯定是指班级学生干部中的第二负责人。
  2. 如果在工作单位(尤其国企、机关、事业单位)提到“副班长”,很可能是指某个小团队或部门的二把手。
  3. 如果在军队或谈论军事时提到“副班长”,则是指军队基层班建制中的副职指挥官。

事实上上面的回答全是错的,这个基础上就必须加上一些上下文:

Image

模型马上就很聪明了,给出了正确的回答:

副班长是团队负责人的延伸与“炮灰”,核心职责是处理对团队必要但无价值的垃圾事务(如协调冲突、行政杂务),解放负责人精力。其核心特质是忠诚可靠(因接触敏感信息)、执行力强且甘于琐碎。可分为三类:杂事兜底者(老黄牛型)、项目攻坚手(能力型)、潜在接班人(过渡型)。选择关键在于绝对可控、无野心,且移除后不影响团队运作。

这就是所谓“上下文工程”:并不是AI不聪明,而是它需要正确的背景信息 + 合适的格式 + 调用得上的工具,才能从“听指令”升级为“懂需求”。

如果输入的是模糊指令,输出很可能就像瞎做选择题一样;只有把场景、偏好、限制条件一次说清,它才能做出准确的输出。

理解了上下文工程的大概率,我们这里就打开看看他的分类定义:

上下文工程的格式

上下文工程远不止把提示词写好这么简单,它更像是一条随时调度信息和工具的精密工程。下面这7个部分是一个上下文工程的基本组成:

  1. 系统指令。AI的基础设定,给模型以“身份”+“基本规则”。偶尔还会给一些示例,比如:你是一名资深旅行顾问,回答必须符合 JSON 模版;
  2. 用户请求。本轮要办的事儿,比如:帮我写一封向客户解释延期交付的邮件。
  3. 短期记忆(对话上下文)。记录刚刚发生了什么,避免“失忆式”回答。内容包括你和 AI 的往来消息、最新操作反馈。
  4. 长期记忆。跨会话的常识与偏好仓库。内容包括用户常用邮箱、口味偏好、历史项目笔记等,其实就是个人知识库了。
  5. 外部检索层(RAG)。实时补充“书到用时”的资料。内容包括数据库查询、企业文档、网络搜索结果等。
  6. 可调用工具。让 AI 不只会“说”,还会“动手”。这里可以跟各种MCP工具联动。
  7. 输出规范。规定答案长什么样,方便下游直接消费,一般是JSON格式。

把这些元素想成电脑的 RAM:容量有限,却直接决定运行效率。

上下文工程的核心,就是在正确的时机把最关键的“原料”送进模型,让 AI 既不遗漏关键信息,也不被无关噪声拖慢,最终把任务高质量交付。

然后是关于上下文的操作,这里有张图大家先感受下:

Image

我们这里做一张表:

手法
核心思路
类比
常见场景
1. 记录式(Write)
让 AI 随时把重要细节写进“随身笔记”——临时计划、关键结论、用户偏好,都先记下来
人类做会议速记
ChatGPT 自动存“最常点的外卖”“常用邮箱”
2. 甄选式(Select)
任务来了,先从海量资料里挑出最 relevant 的几条再喂给模型
图书管理员找指定章节
Code Agent 只抽取相关函数文件
3. 精简式(Compress)
当信息爆棚,用摘要、提炼、移除冗余等办法把内容“瘦身”
给论文写 200 字摘要
Claude 在窗口快满时自动总结对话历史
4. 分隔式(Isolate)
把复杂任务拆给多名“专科助手”,各自用自己的小记忆,最后再汇总
项目经理分派子任务
Swarm 架构:一个 Agent 画背景、一个写剧情

这里说得够多了,估计大家有点迷糊,我们来一个实际的案例:

案例说明

案例是前几个月一次项目实践简化:供应链危机下的智能决策支持,其实就是之前有人给他们做了个AI客服助手(20万预算),只不过是对内的,当时突发的问题是:

某跨境电商客服凌晨收到警报:爆款商品因港口罢工面临断货风险,需2小时内决定应急方案。

这个时候客服直接就询问供应链AI:如何处理XX商品供应链中断?

模型反馈也很简单:

  1. 启用备用供应商;
  2. 调整营销策略;
  3. 通知客户延迟;

对此回答:客服表达了不满,然后CEO也不满,最后找到了我去解决,而这就是个典型的上下文工程的问题,其实不叫他狗屁上下文工程也行,就是个常规AI知识库工程的事。

该问题的处理逻辑也很简单,为部署的AI系统自动构建以下上下文(当时其实没这么全,这里做案例加上一些):

上下文层
内容
说明
系统指令
“你担任供应链危机指挥官,输出带成本收益分析的决策建议,使用JSON格式”
锁定角色与输出规范
用户请求
“生成XX商品断货应对方案”
明确核心任务
短期记忆
10分钟前物流系统警报:XX港罢工持续24小时+
理解事态紧急性
长期记忆
调取历史数据:
- 该商品VIP客户复购率32%
- 备用供应商A上次交货延迟5天
基于企业经验决策
外部检索(RAG)
实时接入:
- 仓库库存(仅重庆仓剩2000件)
- 空运报价 ??
消除信息盲区
工具调用
自动执行:
1. 计算VIP客户优先供货成本
2. 模拟降价促销的营收影响
动态量化方案可行性
输出规范
强制结构化输出:
{“方案”:[], “成本预估”:{}, “风险评级”:”高/中/低”}
直接适配决策流程

然后再加上一些简单代码,AI就会重新生成应对策略:

{
"优先方案": [
    {
"行动": "立即空运2000件至XXX分仓",
"逻辑": "覆盖未来7天VIP订单(占营收65%)",
"成本": "????",
"损失规避": "防止客户流失风险"
    },
    {
"行动": "对普通客户启动预售",
"逻辑": "利用长期记忆:该品类客户等待容忍度21天",
"成本": "营销投入XX",
"预期收益": "锁定XX订单"
    }
  ],
"风险评级": "高"
}

真实策略会比上述更复杂,大概是这个意思,大家理解理解,总之这就是所谓的上下文工程,他的本质仍是Prompt工程...

结语

事实上,AI应用当前的技术理解是比较固定的:

  1. 最简单的就提示词工程了事;
  2. 复杂一点的就上RAG;
  3. 再复杂点就需要微调和RL,这多半要涉及模型边界问题,解决知识点抽取的问题;
  4. 再复杂就要上各种图谱和数据工程了,多半是为了飞轮系统;

但无论怎么玩,其本质都是提示词工程,所以现在冒出个上下文工程,真不知道想闹哪样,有那个闲工夫不然把数据工程的基础功打牢固...

所以发明上下文工程这类新词,本质上还是提示词(Prompt)那套东西换了个马甲。

之所以吐槽互联网喜欢整活,不是因为技术没用,而是明明在玩Prompt,偏要假装发明了新大陆,甚至还有人天天有人嚷嚷着:提示词已死。

人家芝加哥大学的研究反手给了个响亮耳光:提示词不仅没死,它恰恰是理解大模型能力的“科学显微镜”(Prompt Science)。

认知来说,那些改变游戏规则的能力:Few-Shot学习、思维链(CoT)推理、自我修正的宪法AI,哪个不是通过精心设计的Prompt实验挖出来的?

调提示词本来就是AI应用中最为烦躁而反复的过程,他已经足够高端了,用不着包装长提示词、记忆管理、工具调度这套组合拳...

说白了,“上下文工程” = 复杂版的Prompt Engineering (提示词工程):就是那七大要素(系统指令、长短期记忆、RAG、工具调用)的结构化设计,本质上还是往Prompt里塞对的信息和格式。

它的价值,恰恰印证了Prompt Science的核心:通过系统性地操控输入(Prompt),我们能精准激发模型的潜力(比如我那个供应链案例)。这不是什么新魔法,而是对Prompt能力的深度挖掘。

AI应用层的所有“创新”,无论是RAG、微调,还是今天的“上下文工程”,骨子里都是Prompt在不同抽象层的表达。

当能力探索陷入停滞,造词运动就开始了。与其被名词忽悠,不如拿起Prompt Science这把“显微镜”,看清大模型能力的真边界。

做点正经事了,不要让我再来学习了!

点击上方卡片关注叶小钗公众号,查看下方二维码,添加我个人微信:

Image