通义模型全线降价-为什么大家都开始卷价格了

最近大模型好像都开始卷价格了，阿里云也宣布了自己非常给力的模型降价计划，最高直降97%。

通义千问GPT-4级主力模型Qwen-Long，API输入价格从0.02元/千tokens降至0.0005元/千tokens，直降97%。这意味着，1块钱可以买200万tokens。

相当于5本《新华字典》的文字量。这款模型最高支持1千万tokens长文本输入，降价后约为GPT-4价格的1/400，这个价格属实离谱了，竞争优势非常大。

Qwen-Long是通义千问的长文本增强版模型，性能对标GPT-4，支持最长1千万 tokens的超长上下文对话。

阿里昨天这一波操作直接点燃了，国内厂商降价的导火索，纷纷宣布降价甚至“免费”。

阿里云为了降价做了哪些优化

当模型尺寸和上下文长度不断增大，推理资源的规模会变大；当模型应用场景逐渐多样，推理资源的部署场景也会变得复杂。因此需要在模型的推理效果、性能和成本上协同优化。

针对这一问题阿里云提供了三大能力，保障大模型推理的效果好、性能优、成本低。

• 第一是高性能优化：系统级的推理优化技术，具备全面的高性能算子、高效的推理框架、编译优化的能力。

• 第二是自适应调优：随着AI应用的多样化，一个单一的模型很难在所有场景中都保持最佳效能，自适应推理技术允许模型根据输入数据的特性和计算环境的约束动态调整推理技术应用和计算资源的选型；

• 第三是可扩展部署：模型推理部署资源的扩展和弹性，解决推理服务在一定时期内的潮汐现象。

为什么都在降价

这里可以分析一下为什么不管国内的 LLM 还是国际上的甚至是 OpenAI 都在卷价格。

LLM 模型能力增长乏力急需新的增长点

虽然大家都还在坚持Scaling law，但是从最近的模型发布以及前沿公司的模型能力增长速度来看，明显模型能力的增长速度变慢了，除了 Open AI 自己之外行业内各家的顶尖模型能力逐渐接近。

市场竞争加剧

随着越来越多的公司进入大语言模型领域，市场竞争加剧。去年年初之前只有几家大厂和头部玩家在牌桌上，最近明显多了非常多的开源模型和模型训练公司。

硬件成本下降导致推理速度下降

随着技术的进步，训练和部署大语言模型的成本下降。更高效的算法和硬件使得模型的运行成本更低，从而允许公司以更低的价格提供服务。

规模经济效应

大公司在大规模运行模型时能够实现规模经济效应。更大的用户基数和更多的数据使得单位成本下降，从而使得价格可以降低。

比如阿里云从模型和AI基础设施两个层面不断优化，追求极致的推理成本和性能。例如，阿里云基于自研的异构芯片互联、高性能网络HPN7.0、高性能存储CPFS、人工智能平台PAI等核心技术和产品，构建了极致弹性的AI算力调度系统，结合百炼分布式推理加速引擎，大幅压缩了模型推理成本，并加快模型推理速度。

所以这一轮减价的逻辑本质上还是在 LLM 性能增长乏力的基础上，大家从 Gorq 的身上看到推理速度的提升和推理成本下降到极致的时候，对应用层面带来的颠覆性变化。

降价对环境的影响

在大部分国内模型甚至海外的模型推理速度降低同时价格也降低的情况下，下半年一定会有更大的影响出现，可能比模型能力提升带来的影响还大。

更广泛的应用

较低的成本和更快的推理速度使得AI技术在更多的领域和场景中得以应用。例如，中小企业可以更容易地采用AI技术来提升业务效率。

创新和产品发布加速

开发者和研究人员能够更快地进行实验和迭代，从而加速技术创新和产品开发。下半年应该会有大量的新产品出现。

AI 应用扩展到更多行业

降低成本使得AI产品在更多行业和市场中得到普及，推动传统行业向智能化转型。例如，制造、医疗、零售等行业将更广泛地采用AI技术。

新商业模式的出现

成本的降低使得基于AI技术的新商业模式得以探索和实现。例如，按需定制的AI服务等。

随着价格战的打响国内 AI 生态也回到了传统互联网最擅长的打法，但是是不是价格月底的模型竞争力越强是要打一个问号的，所以厂商需要双线投入，既要保证模型质量又要降低模型成本。

这就要求科研能力和工程能力都要强，甚至有足够的规模可以平摊降低推理成本。