程序员的开发范式彻底要变了
本播客由扣子空间(coze.cn)一键生成
刚看完晚点公众号上火山引擎总裁谭待的采访,再加上最近和火山方舟团队的接触,我的感觉是:字节的这几个团队,真年轻,从一号位到执行层,身上都透着一股冲劲。
而且从做事细节中,我发现他们的做事风格,一点都不像大公司那样迟缓,反而有点像我们这样的创业公司,行动迅速,快速调整,极为强调认知的重要性。
挺佩服的。火山引擎入局云计算并不算早,比同行晚了近十年。估计前些年,很多人和我一样,谨慎悲观的看待火山引擎的发展。就像现在有人说他要做个抖音,我们也照样不相信他能做成。
但有意思的是,火山引擎很快抓住了 AI 的机会。2024 年,他们的营收规模已经达到 110 亿,今年要冲刺 200 多亿。能看出来,增速迅猛。
包括我们公司,从去年开始,AI 相关的服务,都已经在用火山引擎。诸如豆包大模型、知识库、向量库,还有多模态的能力。
我们团队做过测评,就 AI 相关的能力而言,火山引擎的效果、价格,确实都是行业内最好的。这个一点都不夸张。举个例子,我们墨问现在的文本转音频功能,我测试过大大小小很多产品,最后只有火山的音频听起来比较自然。还有他们刚刚发布的语音播客模型,行业内基本也找不到同等水准的云能力。
这么讲吧,墨问的产品,论功能大概可以分为两类:一类是我们熟知的 Web 应用,目前这部分还老老实实跑在传统的云厂商中。而新增的 AI 类应用,就已经切换到火山引擎。
我感觉这是一个分水岭。举个不太恰当但挺贴切的例子:就像以前家里的老电视还接着有线,而智能电视基本都在用 Wifi 了。老电视和新电视,完全不是一个时代的产物,所以,与之对应的基础设施也发生了变化。
火山引擎一直在提一个词:AI 云原生。这个词,值得说道几句。
其实云原生对工程师并不陌生。早几年,它一度是行业热词,各个技术大会的主题演讲,必定绕不开云原生。它代表的是一整套以 Docker、Kubernetes、微服务为核心的新型应用架构。
为什么当时要强调“云原生”?很简单。云计算刚诞生的时候,主要就是把传统的 IDC 的场景搬到线上,用云的方式统一管理。所以,那些年我们能看到,云厂商主要售卖的是云服务器、云数据库这类产品。
但随着云计算的逐步发展,大家又发现其实以服务器为单元的云计算使用方式,对资源的利用率并不高,无法真正发挥云计算的规模优势。
于是,以 Docker 为代表的容器技术诞生之后,云计算迅速跨入到第二个阶段:云原生。云原生,简而言之就是为云而生的新一代技术栈,云厂商们也顺势搭建出一整套开发、部署、管理应用程序的体系。
这套架构放到今天,依然是主流。我们今天提到的 AI 云原生并不是云原生的升级版本。而是说,AI 时代,Agent 应用和过去 PC、移动互联网时代的应用已经发生了天翻地覆的变化。就像我前面举的电视例子一样。看起来都是电视,但内核已经不同。
传统的云原生,是为 App 和 Web 服务的,解决的是怎么让应用部署得更快、资源利用率更高、扩容更灵活这些问题。而 AI 云原生,关注的是怎么围绕大模型本身,更高效地开发 Agent。这里的核心已经不是单纯的运维效率或者弹性扩容,而是要让模型理解需求、自动调度资源、交付结果。
二者大相径庭。显而易见,AI 时代,开发范式已经发生变化。开发者需要一套与之对应的工具链和基础设施。这也是为什么火山引擎一直在提 AI 云原生的原因。
上周火山引擎举办的 Force 大会,就发布了很多 AI 云原生的能力。最重磅的当然是豆包大模型 1.6 系列,它由三个模型组成:All-in-One 的综合模型 Doubao-Seed-1.6、侧重深度思考能力的 Doubao-Seed-1.6-thinking、侧重响应速度的 Doubao-Seed-1.6-flash。
我重点说下 Doubao-Seed-1.6,它最高支持 256K 的上下文,而且可以根据提示词的难度来决定是否开启深度思考模式。这一点很酷。未来,我觉得模型的发展方向肯定是自己来决定是否进行深度思考,而非每次都让用户进行选择,这多麻烦。
1.6 这代模型在推理和多模态上的提升非常明显。前段时间,海淀区模拟考试,总分 750 分,豆包 1.6 理科考了 706 分,文科考了 712分,这绝对是学霸级别的成绩了。你要知道,文科和理科的考试中,有物理、化学、生物、地理、数学等学科,其中涉及很多图形题,对多模态和推理的要求极高。你只要自己测试过就知道。
多模态这里豆包应该是国内最强的。无论是 1.6 的多模态理解能力,还是他们新发布的视频生成模型。昨天我家人已经测试了视频生成,比上一代有质的提升,画质、任务动作的连贯性。真是感慨,去年的这会我玩即梦时,他们视频生成还很初级,一年时间,变化飞快。
这些模型都可以在火山引擎中体验到。而且豆包 1.6 统一了定价模式。简单点讲,不管开不开深度思考,不管做的是文本还是视觉,tokens 的价格统统一个价,直接按输入的上下文长度来分区计费。算下来,豆包 1.6 的综合成本比 Doubao1.5-thinking-pro 和 DeepSeek R1 便宜了 63%。
除了大模型本身的更新,火山引擎还带来了一整套围绕 Agent 开发的工具链。我简单说几个印象比较深刻的。
第一个工具就是 PromptPilot,名字其实一目了然,就是帮我们优化提示词的。平时用大模型多的同学肯定懂,AI 和传统工具完全不是一个玩法。你和它怎么沟通,怎么描述需求,最后出来的效果,差别特别大。对于普通用户来说,随着产品能力的提升,提示词变得不再重要。但就构建 AI 产品而言,提示词影响还是蛮大的。
我们去看一些 AI 产品的系统提示词,有的居然能写到六七页。我们自己团队做产品,也深有体会。一个好的提示词,直接影响最后的输出结果。所以我们也经常花很多时间去测试和调整提示词,保证它在不同的场景中,都能取得不错的效果。
PromptPilot 就是帮我们解决这些问题。不会写提示词没关系,可以直接用自然语言描述需求,这工具能帮我们自动结构化、拆解,生成更专业的提示词。并且还可以像改文章一样,进行局部的优化。
而且更强的是,PromptPilot 还支持智能优化提示词。我们把自己的测试数据和理想回答传上去,再给每个回答打个分,模型就会在这些数据的基础上,自动帮我们把 Prompt 改得更贴合目标。
说白了,就是你不用反复试错、猜测模型到底喜欢什么表达方式,直接让它自己学着调,省心省力。像我们平时做产品测评,遇到那种怎么说都不对的场景,就特别能体会到这个功能的实用性。
第二个是 MCP Servers。不得不说,今年整个圈子对 MCP 的关注度是真的高。MCP 就像是给大模型接上了手和脚。有了 MCP,模型就能快速调用各种第三方工具,实现真正意义上的工具调度。其实市面上很多厂商都在做 MCP 市场,这也是明牌,火山引擎的特别之处是:
火山引擎把很多云服务也已经 MCP 化。像下面我的截图,包括 ECS、数据库、云搜索、TLS 等等都支持了 MCP。它意味着,我们可以在字节的 AI IDE TRAE 中,进行端到端的开发。因为 TRAE 支持 MCP,只要把 ECS 的 MCP 接入到 TRAE,那开发者就可以在这里直接操作云服务,而不需要再二次跳转。
说到 TRAE 这款 IDE,我再多说一句。目前,大众的焦点都是使用 TRAE 或者 Cursor 之类的产品来写代码。但其实,一个典型的软件开发过程中写代码大概占比不到 40%,其他的都是在使用各种工具在做额外的事情。AI 接下来,肯定会介入到软件开发的全流程。
而 TRAE 作为 AI 原生的入口,它肯定会超脱过去我们所理解的传统 IDE 的范畴。基于 AI Agent 的能力,我相信它会真正成为软件开发的超级界面,用户可以在这里写代码,梳理需求,和知识库互动,部署,运维。未来所有与开发相关的工作,都有可能会在这里流转。
目前我们看到的 TRAE 或者 Cursor,都还只是以写代码为主,但这绝非终局。TRAE 的下一个版本会通过模型 + Agent + 工具调用,以 AI 为中心打造全新的 AI 协作型开发空间。
第三个工具是扣子。扣子的定位是零基础开发 Agent 的平台。特别是去年,他们上线应用 IDE 后,我们完全可以通过拖拉拽的方式,搭建出来一个 AI Native 的、具备前后端能力的完整应用。
发布会那天,我看到猫王音响在硬件里集成了通过扣子开发的智能体。它可以记住用户偏好,自动关联前后聊天的内容,动态调整推荐策略。甚至能根据最近的聊天语气,主动切换陪伴和推荐模式。
说实话,这种体验和传统音响完全不是一回事,智能和个性化都上了一个新台阶。挺有意思。扣子对应还发布了新的硬件解决方案,在扣子官网的模板菜单中就能找到。
很多人没注意到,扣子最近上线了一个叫罗盘的新功能。这个功能其实就是给 Agent 做数据观测和调优,相当于给智能体配了个随身监理。以前我们搭好一个 Agent,效果好不好,完全靠主观感觉和用户吐槽。现在有了罗盘,开发者可以直接拉一套评测集跑一圈,看看模型是不是掉链子、用户用的过程中到底卡在哪儿。
还有扣子空间,我之前已经介绍过。它是在扣子的基础上长出来的一个通用智能体产品。我最近文章中生成的双人对谈播客,其实就是通过扣子空间完成的。扣子空间还能够连接到小红书等平台,日常信息深度检索的需求,我现在都习惯交给它异步来完成。
发布会上,火山方舟的负责人吴迪有句话让我印象很深:“到今天为止,MCP 和 AI 应用开发其实还很不成熟。现在正是 AI 应用的黎明,正是我们开发者大展拳脚的好时候。”
这句话其实挺实在的。工具和技术还远没到完美,但也正因为这样,才有足够多的新机会。等行业完全成熟、格局坐实,机会大概率已经被瓜分完了。
开发者天生拥有对新技术的嗅觉。AI 发展到此刻,我们已经看到应用范式的转移,以及新的机会正徐徐展开。如果要说点建议的话,我觉得就两点:
第一,意识到 AI 云原生开发逻辑的变化,及早拥抱新的技术栈,踏准时代的浪潮。第二,参与到时代中来,无论以怎样的方式。