OpenAI把推理成本砍半，一场精心计算的“阳谋”

没换芯片、没改架构，纯软件优化就把推理成本砍掉一半。OpenAI这一刀，砍向的不只是自己的账单。

6月30日，The Information投下一枚重磅炸弹：OpenAI工程师已通过一系列系统底层优化，将模型推理成本降低了50%以上。

这不是新芯片的功劳，也不是架构的革命——纯软件层面的事，把现有服务器的利用率硬生生“拧”上去了。

而这场技术突破背后，是一场精心计算的战略布局。

一、几百块GPU，扛住几亿人的流量

这项技术最直观的验证，来自一个令人震惊的数字。

OpenAI工程师将这套新技术应用于未注册免费/付费账号的访客访问ChatGPT场景后，峰值时段所需的英伟达显卡算力规模一度仅需几百块。

几百块是什么概念？ChatGPT每天有数亿人在用，光未登录的那批访客，搁以前也得堆一大堆算力来伺候。现在几百块GPU就够了——算力效率的提升肉眼可见。

目前外界尚不清楚OpenAI实现此番效率提升的具体技术手段。业内推测，常用优化手段可能包括模型量化、键值缓存（让模型记忆过往计算信息，避免重复运算）、请求批量处理（批量应答而非逐条处理），以及将部分请求分流至低功耗轻量化模型或模型子模块等。

没有硬件突破，纯靠软件优化把成本砍半——这才是这件事最值得关注的地方。

二、OpenAI把它当“秘方”，连自己人都防

OpenAI对这套技术的保密程度，已经到了“草木皆兵”的地步。

据The Information报道，OpenAI将这套方案视为 “核心机密”（secret sauce）。记者Steph Palazzolo在报道中直言：“他们甚至不想告诉OpenAI内部的其他员工。因为如果这些东西泄露出去，很可能会很快被其他实验室采用，他们也可以利用这些来降低成本。”

这种极端保密措施并非小题大做。至少从2023年年中开始，Anthropic首席执行官达里奥·阿莫代伊就曾公开表示，公司严格限制知晓单套算力优化方案的内部人员范围，一旦相关技术被同行复刻，其他实验室将获得竞争优势。

算力优化，正在成为AI实验室最核心的商业机密。

三、成本砍半，价格战开打

推理成本减半带来的最直接影响，是OpenAI有了打价格战的资本。

以其最新发布的旗舰模型GPT-5.6 Sol为例，该模型在Terminal-Bench 2.1基准测试中得分高于Anthropic的Claude Mythos 5，但定价却仅为竞品Claude Fable 5的一半。

性能更强，价格腰斩——这就是成本优势转化为市场竞争力的直接体现。

更深层的影响在于毛利率。OpenAI今年一季度毛利率为39%，较去年同期的33%有所提升，但距离年末52%的目标仍有不小差距。推理成本减半，将大幅拓宽其毛利率改善的路径。

这不仅是技术突破，更是财务模型的质变。

四、三重战略意图：融资、IPO、转型

这场成本削减并非孤立的技术事件，而是OpenAI整体战略的一环。

第一重：支撑天价估值。OpenAI正接近完成一轮1200亿美元融资，投前估值高达7300亿美元。推理成本的实质性下降，直接改善了公司的现金流预期，为高昂的估值提供了财务基本面背书。

第二重：冲刺IPO。首席执行官萨姆·奥尔特曼正力争在Anthropic之前完成IPO。利润率改善为该估值叙事提供了关键的财务支撑。

第三重：战略转型。应用业务负责人菲吉·西莫已在全员会议上明确宣布，公司将降低视频生成器Sora等消费产品的优先级（该产品已被关停以重新调配计算资源），转而专注于利润率更高的企业工具和编码产品。

软件开发是AI最大的可寻址市场之一。通过将更低的推理成本与更优的编码性能相结合，OpenAI可以在保持质量的同时在价格上压过GitHub Copilot和亚马逊CodeWhisperer等竞争对手。

降本→降价→抢市场→抬估值→冲IPO——这是一条完整的战略链条。

写在最后

推理成本减半，短期看是技术突破，中期看是竞争利器，长期看是战略转折。

OpenAI正在下一盘大棋——用软件优化换取成本优势，用成本优势换取定价权，用定价权换取市场份额，用市场份额支撑天价估值，最终用IPO完成价值兑现。

不过，这套“秘方”能保密多久是个问题。一旦Anthropic、Google DeepMind或Meta复制了该方法，定价优势可能迅速消失。OpenAI押注的是：在竞争对手追上之前，先用成本优势巩固足够大的市场份额。

当AI从“技术军备竞赛”转向“商业化落地”，谁能把成本降到最低，谁就能笑到最后。

参考来源：The Information、36氪、华尔街见闻、搜狐新闻、网易新闻、格隆汇、科创板日报。

新书推荐 ｜ 预售信息  书名：《向南：邕抱东盟篇——以未来性重新发现中国—东盟价值格局与城市机遇》编委：元宇宙与人工智能三十人论坛

扫码或点击链接，即刻预定，开启你的“向南”认知之旅。

元宇宙与人工智能三十人论坛

因微信公众号整改，没有加“星标⭐️ ”的订阅号有时无法收到消息

1.为防止错过最新资讯，请将元宇宙与人工智能三十人论坛设为星标⭐️ 

2.点击“赞”和“在看”，提高我们相遇的几率。

3.精彩文章，请点击文末左下角“分享”给好友。

了解更多关注