量子位

这个双十一,百灵新模型干起活来不烧心

鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI

Word天!又到了一年一度的双十一。。。

在电商打工的同学们,are you ok?我朋友已经崩不住了,天天都在消息轰炸我:

有没有好用的AI打工神器求推荐?急急急,最好是活干得好又能干很久的那种。

Image

你别说,我最近还真挖到了个宝藏。

蚂蚁百灵新开源推出的Ling-3.1-flash,我平时的工作周报、选题总结都靠它包圆。

u1s1,Claude Code、Codex这些也都用过,最后发现还得是国产模型更得我心。

尤其是百灵,平时不显山露水的,不卷参数也不卷榜单,但真到干活时,那是相当靠谱。

按照官方的说法,这个模型就主打一件事:把真实工作流里的活干完。

就拿开头的电商报告来说,老板一句「把这次大促的情况整理出来」,落到打工人头上,就是找资料、核数据、追进度,再做成Excel和汇报PPT……

一项业务的背后往往要多环节通力合作,更麻烦的是,数据还零散藏在不同文件、不同工具里。

△图片源自百灵官微

Ling-3.1-flash就是基于这类真实需求衍生出来的高智效比专业模型。

说白了,它想证明的是,答得漂亮还只是其次,任务交得出去才是关键。

为真实世界任务而造

要接住大促分析这样琐碎的活,模型得在多个流程之间持续推进。Ling-3.1-flash模型的设计,可以顺着这条任务链来理解。

模型需要解决的第一个问题,是把交付目标拆解清楚。

用户可能只给模糊的一句指令,实际需要交付的却是一整套汇报材料,模型得自己找出相关资料,判断缺什么、需要什么,再根据中间结果继续往前走。

Image

Ling-3.1-flash工作时正是如此。

它将需求理解、任务拆解、信息整合、工具调用和结果检查连接起来,可以跨网页、文档、表格和代码环境开展工作。

文能制作Excel、PPT,武也能生成和测试代码。

而且!这套能力已经有了相当具体的落地形态。

Ling-3.1-flash已经被接进了蚂蚁内部的桌面协同Agent客户端「小虎」,模型指挥行动,执行环境则要让它真正读到文件、运行程序和写入结果。

这倒是个值得借鉴的思路,咱虽然还用不上小虎,但咱自有的办公Agent,加上Ling-3.1-flash组合拳,想来效果应该也不错。

Image

等任务持续推进后,资料和历史上下文将出现明显膨胀,计算开销也会随之增加。

这时Ling-3.1-flash的混合架构设计就起到了关键作用。

模型拥有约560B总参数,每个Token激活约25B。在保留知识容量的前提下,Ling-3.1-flash把单步真正参与计算的权重规模给压了下来。

注意力结构上,它延续了Ling-3.0-flash的架构,并进一步提高了线性Attention的比例。

其采用7层KDA配1层Gated MLA的方式,KDA负责线性时间复杂度的序列处理,每8层保留1层Gated MLA,维持全局注意力通路。

模型上下文窗口上限可达1M,能一次性容纳更多文档、代码和历史任务,减少人工切分和反复搬运信息的功夫。

同时模型设置512个路由专家,每个Token选择其中8个,并同时调用1个共享专家。

这种混合线性加稀疏MoE的路子,目的只有一个:让模型在长时间执行里不掉链子,也不至于把算力烧穿。

此外,团队也在积极降低部署门槛,通过混合精度量化,模型权重占用从约534GB降至292GB,在对应的Hopper测试配置中,部署所需GPU由8卡降至4卡。

面向具体业务,团队还提供长上下文并行推理方案(PCP/DCP),并加强对JSON Schema的支持,让模型更方便地处理长资料、对接现有业务接口。

Image

架构之外,是骡子是马,还得交给真实评测中跑一通。

在办公任务评测GDPVal-AA V2.1中,Ling-3.1-flash的ELO得分为1673,展现出处理多步骤工作任务的竞争力。

△图片源自百灵官微

同时,据Artificial Analysis最新公开评测,Ling-3.1-flash智能指数为41,输出速度约每秒210 Token,混合调用价格约为每百万Token 0.19美元,为高频业务场景提供了兼顾智能水平、生成效率与调用成本的选择。

Image

医疗场景下的HealthBench Professional评测中,Ling-3.1-flash也同样保持相对领先。

△图片源自百灵官微

此外,软件开发、终端操作等场景下,Ling-3.1-flash也均具备一定的信息理解与执行能力。

以蚂蚁内部进行的一项长时的Lua原生编译器开发任务为例,整个过程持续约17小时,期间模型反复开发和修正,最终独立测试的通过率为97.8%。

所以在办公Agent选型时,Ling-3.1-flash面面俱到且专业不出错,成为其优先试配的理由。

实测Ling-3.1-flash见真章

为了测试它干活到底有多「真」,咱们实测走起~

这第一道题,先来个双十一电商任务试试水。

假设你是家居收纳品牌Ling的电商负责人,根据资料,你需要向老板提交一份覆盖10月15日至11月11日的双十一大促方案,方案将直接交给运营、内容、客服和仓储后续执行。

Image

P.S.相关数据资料由Codex辅助生成。

在给定业务目标、商品资料、团队情况和历史渠道数据后,模型开始迅速梳理资料并进行大促方案设计。

首先模型进行初始目标可行性判断。

它没有直接接受老板画的大饼,在提前识别广告边际效率递减、库存、发货能力等约束的前提下,对初始目标给出了相对合理的预估。

Image

同时也给出了相应的调整路径,以帮助打工人应对老板的质询。

Image

再看模型给出的大促优惠方案,其中算出来的关键数字,倒是经得住核对。

无论是商品组合表还是渠道预算明细,每一项数据都可追溯,说明具备一定的数据分析能力。

Image

Ling-3.1-flash也细致地给出了分阶段执行排期,甚至包括每个阶段需要的前置条件。

虽然在提示词中我们只要求大促方案到双十一当天,模型却自行补充上了后续的复盘和利润核算过程。

实在是暖暖得很贴心~

Image

模型的文本输出也很不赖,比如各种短视频引流催单、直播话术都手拿把掐。

画面、文案、钩子一应俱全,咱牛马直接照抄AI作业,省心又省事。

Image

最后模型还会主动进行一致性检查,明确标注出哪些数据还有待用户核验、哪些内容需要用户确定,最终方案执行的主动权始终还在用户手上。

除了日常办公,医疗健康场景也是Ling-3.1-flash的强项。

我们给出一份虚拟的血脂检查数据和模糊病症描述,希望模型整理出带去门诊的沟通单。

Image

在信息不足的情况下,Ling-3.1-flash没有直接下判断,而是先列出需要用户补充的细节,再区分已知事实、不确定项和要问医生的问题。

在引导用户补充关键信息后,它再将新增内容与原有内容交叉验证,得出更为专业的问诊参考。

Image

值得注意的是,模型在思考过程中,始终强调红线预警原则,会时刻提醒用户关注病情变化并及时就医,也不会明确给出用药指南。

过程当中,它更像是为医生完成前期辅助工作。

Image

不过Ling-3.1-flash也存在一些小Bug,比如一股脑给模型塞一大段长文本,模型的注意力有时会跑偏。

比如双十一大促方案本身就是非常复杂且周期长的工作任务,还是更建议逐步交付完成,比如先用脚本整理数据再生成方案,这样循序渐进地来。

一句话生成时同样存在适应边界,如果当前效果不佳,用户回过头来重新明确实现思路和交付规格,往往比继续碰运气更高效。

而且当前版本尚不具备原生视觉理解,需要自行前置一个视觉模型处理,整套流程的成本也会有所增加。

总之,模型能否达成可用成果,还因任务而异。

百灵抢先进入真实任务流

聊完了模型本身,再回过头看百灵,其实是精准踩中了行业痛点。

这一年,大模型圈几乎都在卷Coding、卷榜单。

但卷到一定程度,越来越多人开始追问一个更根本的问题:AGI是不是只有Coding这一个考场?

百灵负责人西亭在外滩大会上的判断是,Coding并不是唯一考场。

在他看来,百灵的目标还是服务于真实世界任务,把模型能力从技术层面抽离出来,用真实任务来给模型打分。

所以百灵把3.0系列模型放进了两个最不能出错的地方:金融和医疗。

LingFin是高智效比金融大模型,以行研为切入点重构金融效率;医疗健康增强模型LingSante,则围绕医疗知识推理、循证检索和标准流程探索。

其中,Ling-3.0-flash-Fin(总参数124B、激活5.1B)让AI进入真实投研任务流,打通从找资料、做分析到形成研究成果的完整任务链。

它在高难度投研任务中比肩3T级前沿模型,金融Agent综合表现达到开源领先,关键任务表现对标GPT-5.4等前沿模型。

Image

Ling-3.0-flash-Sante则将高智效比带入医疗场景,以124B参数规模在1.6T以下模型中取得最优表现,整体性能与多款旗舰模型相当。

△图片源自百灵官微

对比基模,这些并非简单的行业微调,是实打实地放进复杂工作环境中,持续打磨校验。

从更大的层面看,百灵还在做一件引领行业的事,就是重新定义「效率」这个词。

过去行业谈的都是算效比,算力用了多少、效率高不高。

百灵抢先把模型计算效率、参数效率、Token效率绑在一起谈,强调模型智效比。

Image

这个说法也很快得到了行业响应,Anthropic、OpenAI近半年也都在陆续推出面向金融、医疗的专业能力。

比如Anthropic在上个月推出的Claude for Financial Advisors,将连接器和任务Skills围绕具体工作组织起来,这也是另一种专业流程接入实践。

诚然,路线之争现在还远谈不上胜负,但「走进真实工作流」正在从一家的选择,变成整个行业的风向。

今年也是百灵从模型能力走向任务价值的关键一年。

Image

透过Ling-3.1-flash,百灵接下来的路已经写明:

向上,继续为开发者提升Agent能力天花板;向下,进一步降低普通用户的使用门槛,将更好的智效比转换成实实在在的办事能力;向外,继续深化模型专业性,在真实世界中得以突破。

可见,模型圈证明自己的方式正在换挡,但一切也才刚刚开始。

Ling Studio:
https://ling.tbox.cn
OpenRouter:
https://openrouter.ai/inclusionai/ling-3.1-flash
HuggingFace:
https://huggingface.co/inclusionAI/Ling-3.1-flash
ModelScope:
https://modelscope.cn/models/inclusionAI/Ling-3.1-flash

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

— 完 —

🌟 点亮星标 🌟

科技前沿进展每日见