上下文工程（context engineering）✅

llm 的权重（weights），相当于人脑的长时记忆；llm 的上下文窗口（ context window），相当于人脑的工作记忆。 以 o3 为例，有 40 万 token 的上下文窗口，远胜人脑 7±2 单位的工作记忆空间。 所以，压榨顶级模型的价值，压榨 200 美金 pro 会员的价值，关键在意充分利用 llm 巨大的工作记忆，在执行任务时填充必要的、高质量的、高信号低噪声的上下文信息。 人类工作也是如此。团队协作的关键之一就是 context 同步。 llm 的 context engineering，如何理解？ 一切操作 llm 上下文窗口的方法，都是上下文管理/工程，包括但不限于提示词、任务描述与解释，few-shot 示例，RAG，相关数据，工具，状态，历史。 用好你的 llm 上下文，就像用好你大脑的工作记忆。 === prompt，是 llm chatbot 阶段的产物。 在 llm 的 reasoner 阶段，prompt 的价值已经急剧降低了。因为，llm 有了更高的智能水平，能自主 think step by step，用了过多的、复杂的 prompt，不但没有创造价值，反而会影响效果。 在 llm 的 agent 阶段，上下文工程变得必要且有益。这个阶段的 llm 已经是 agent，有巨大的 context window，有强大的推理能力，所以，挖掘价值的关键，就是你如何给 llm 提供好的上下文，供 llm agent 使用。