提示词已死,上下文工程当道?我去NMD,别再骗我学习了!
你好,小钗是连续的AI创业失败者。在医疗AI、教育AI、管理AI有丰富的失败经验
关注公众号,回复1,与我交个朋友吧
我是发现互联网这批人真的有个共同的特点,无论中外:他们都特别会整活,尤其是创造名词这块!
前些日子相继出了些MCP、A2A、Agentic AI、世界模型 (World Model)等,我TM都要被他们整麻了!
结果最近他们又弄了个上下文工程,简单来说就是带记忆的提示词,非要简单的理解就是比较长的提示词!
我是真服了这些人了,这个所谓上下文工程,我们一年半之前在生产环境都用完了,结果现在发现个新的名字,看来确实从DeepSeek出来到Manus爆发,市面上真的没太多拿得出手的AI应用,大家都开始整活了...
什么是上下文工程
如图所示:
记忆功能是智能体的基础,之前一般是配合RAG生成提示词达到要求。现在可能是大家有一套更好的方法论了,就给他取了个名字叫:上下文工程。
他的核心在于给模型提供恰到好处的“上下文”,让他能更好地理解任务,完成复杂的工作。
事实上之前提示词工程也是这么干的,只不过现在为了夸耀上下文工程,他们又开始摸黑提示词工程只能提供单一指令了,还是那句话所有的AI应用就跳不出这个图:
其本质都是Prompt提示词,你再怎么换马甲都是。这里以之前文章的案例做说明:为什么AI多轮对话那么傻
如果脱离背景,你跑去问GPT:什么是副班长?这并不会搞得模型很抓狂,但他会给你莫名其妙的回答:
如果你在学校环境听到“副班长”,那几乎肯定是指班级学生干部中的第二负责人。 如果在工作单位(尤其国企、机关、事业单位)提到“副班长”,很可能是指某个小团队或部门的二把手。 如果在军队或谈论军事时提到“副班长”,则是指军队基层班建制中的副职指挥官。
事实上上面的回答全是错的,这个基础上就必须加上一些上下文:
模型马上就很聪明了,给出了正确的回答:
副班长是团队负责人的延伸与“炮灰”,核心职责是处理对团队必要但无价值的垃圾事务(如协调冲突、行政杂务),解放负责人精力。其核心特质是忠诚可靠(因接触敏感信息)、执行力强且甘于琐碎。可分为三类:杂事兜底者(老黄牛型)、项目攻坚手(能力型)、潜在接班人(过渡型)。选择关键在于绝对可控、无野心,且移除后不影响团队运作。
这就是所谓“上下文工程”:并不是AI不聪明,而是它需要正确的背景信息 + 合适的格式 + 调用得上的工具,才能从“听指令”升级为“懂需求”。
如果输入的是模糊指令,输出很可能就像瞎做选择题一样;只有把场景、偏好、限制条件一次说清,它才能做出准确的输出。
理解了上下文工程的大概率,我们这里就打开看看他的分类定义:
上下文工程的格式
上下文工程远不止把提示词写好这么简单,它更像是一条随时调度信息和工具的精密工程。下面这7个部分是一个上下文工程的基本组成:
系统指令。AI的基础设定,给模型以“身份”+“基本规则”。偶尔还会给一些示例,比如:你是一名资深旅行顾问,回答必须符合 JSON 模版; 用户请求。本轮要办的事儿,比如:帮我写一封向客户解释延期交付的邮件。 短期记忆(对话上下文)。记录刚刚发生了什么,避免“失忆式”回答。内容包括你和 AI 的往来消息、最新操作反馈。 长期记忆。跨会话的常识与偏好仓库。内容包括用户常用邮箱、口味偏好、历史项目笔记等,其实就是个人知识库了。 外部检索层(RAG)。实时补充“书到用时”的资料。内容包括数据库查询、企业文档、网络搜索结果等。 可调用工具。让 AI 不只会“说”,还会“动手”。这里可以跟各种MCP工具联动。 输出规范。规定答案长什么样,方便下游直接消费,一般是JSON格式。
把这些元素想成电脑的 RAM:容量有限,却直接决定运行效率。
上下文工程的核心,就是在正确的时机把最关键的“原料”送进模型,让 AI 既不遗漏关键信息,也不被无关噪声拖慢,最终把任务高质量交付。
然后是关于上下文的操作,这里有张图大家先感受下:
我们这里做一张表:
| 1. 记录式(Write) | |||
| 2. 甄选式(Select) | |||
| 3. 精简式(Compress) | |||
| 4. 分隔式(Isolate) |
这里说得够多了,估计大家有点迷糊,我们来一个实际的案例:
案例说明
案例是前几个月一次项目实践简化:供应链危机下的智能决策支持,其实就是之前有人给他们做了个AI客服助手(20万预算),只不过是对内的,当时突发的问题是:
某跨境电商客服凌晨收到警报:爆款商品因港口罢工面临断货风险,需2小时内决定应急方案。
这个时候客服直接就询问供应链AI:如何处理XX商品供应链中断?
模型反馈也很简单:
启用备用供应商; 调整营销策略; 通知客户延迟;
对此回答:客服表达了不满,然后CEO也不满,最后找到了我去解决,而这就是个典型的上下文工程的问题,其实不叫他狗屁上下文工程也行,就是个常规AI知识库工程的事。
该问题的处理逻辑也很简单,为部署的AI系统自动构建以下上下文(当时其实没这么全,这里做案例加上一些):
| 系统指令 | ||
| 用户请求 | ||
| 短期记忆 | ||
| 长期记忆 | - 该商品VIP客户复购率32% - 备用供应商A上次交货延迟5天 | |
| 外部检索(RAG) | - 仓库库存(仅重庆仓剩2000件) - 空运报价 ?? | |
| 工具调用 | 1. 计算VIP客户优先供货成本 2. 模拟降价促销的营收影响 | |
| 输出规范 | {“方案”:[], “成本预估”:{}, “风险评级”:”高/中/低”} |
然后再加上一些简单代码,AI就会重新生成应对策略:
{
"优先方案": [
{
"行动": "立即空运2000件至XXX分仓",
"逻辑": "覆盖未来7天VIP订单(占营收65%)",
"成本": "????",
"损失规避": "防止客户流失风险"
},
{
"行动": "对普通客户启动预售",
"逻辑": "利用长期记忆:该品类客户等待容忍度21天",
"成本": "营销投入XX",
"预期收益": "锁定XX订单"
}
],
"风险评级": "高"
}
真实策略会比上述更复杂,大概是这个意思,大家理解理解,总之这就是所谓的上下文工程,他的本质仍是Prompt工程...
结语
事实上,AI应用当前的技术理解是比较固定的:
最简单的就提示词工程了事; 复杂一点的就上RAG; 再复杂点就需要微调和RL,这多半要涉及模型边界问题,解决知识点抽取的问题; 再复杂就要上各种图谱和数据工程了,多半是为了飞轮系统;
但无论怎么玩,其本质都是提示词工程,所以现在冒出个上下文工程,真不知道想闹哪样,有那个闲工夫不然把数据工程的基础功打牢固...
所以发明上下文工程这类新词,本质上还是提示词(Prompt)那套东西换了个马甲。
之所以吐槽互联网喜欢整活,不是因为技术没用,而是明明在玩Prompt,偏要假装发明了新大陆,甚至还有人天天有人嚷嚷着:提示词已死。
人家芝加哥大学的研究反手给了个响亮耳光:提示词不仅没死,它恰恰是理解大模型能力的“科学显微镜”(Prompt Science)。
认知来说,那些改变游戏规则的能力:Few-Shot学习、思维链(CoT)推理、自我修正的宪法AI,哪个不是通过精心设计的Prompt实验挖出来的?
调提示词本来就是AI应用中最为烦躁而反复的过程,他已经足够高端了,用不着包装长提示词、记忆管理、工具调度这套组合拳...
说白了,“上下文工程” = 复杂版的Prompt Engineering (提示词工程):就是那七大要素(系统指令、长短期记忆、RAG、工具调用)的结构化设计,本质上还是往Prompt里塞对的信息和格式。
它的价值,恰恰印证了Prompt Science的核心:通过系统性地操控输入(Prompt),我们能精准激发模型的潜力(比如我那个供应链案例)。这不是什么新魔法,而是对Prompt能力的深度挖掘。
AI应用层的所有“创新”,无论是RAG、微调,还是今天的“上下文工程”,骨子里都是Prompt在不同抽象层的表达。
当能力探索陷入停滞,造词运动就开始了。与其被名词忽悠,不如拿起Prompt Science这把“显微镜”,看清大模型能力的真边界。
做点正经事了,不要让我再来学习了!
点击上方卡片关注叶小钗公众号,查看下方二维码,添加我个人微信: