大模型都进化几代了,终于有人开始换个思路造智驾芯片。
不知道大家发现没有,这两年车企去搞自研芯片的越来越多。
一开始是特斯拉去搞 FSD 芯片,然后蔚小理这边,也纷纷从外购转自研,这兄弟仨的智驾芯片现在都已经上车了。
而在今年,比亚迪和小米更是前后脚下场。比亚迪先甩出了 4nm 的璇玑 A3,小米马上跟牌,说 3nm 的玄戒 D100 智驾芯片已经研发完了,明年就能用。
原来还是个别车企才会自研芯片,现在已经快搞成头部玩家标配了。
不少人都在说,明明芯片这玩意儿是费时又费钱,车企们放着英伟达、高通手里的货不要,干嘛非得自己搞芯片呢?
我举个不恰当的例子哈,大伙还记得一代神车丰田 Supra 吗?早期 A70 和 A80 时代的 Supra,用的是丰田自研的发动机 1JZ / 2JZ 系列,这两代累计销量快 30 万辆,即便是 A80 那代碰到上了日本经济的大泡沫时代,人依然卖了 4.5 万辆。
但 A80 的下一代,也就是用了宝马 B 系列发动机的 Supra A90 这一代,从诞生至今累计销量也只有区区 3 万辆,咱抛开 JDM 图腾那些不谈,这一代失败最大的原因就是车型溢价太高,但丰田也没辙啊,用了别人的东西自己的成本本身就高了。
其实放到自研芯片这头也是一回事,用别人的芯片贵了不说,还不一定有自研的好。
常见的智驾芯片,像英伟达 Orin 这种,属于通用芯片。它为了要吃百家饭,会在芯片里塞各种各样的通用计算模块,CPU、GPU 还有深度学习加速器 DLA 等等全安排。
这样显而易见的好处是兼容性强,不管你车企走的是纯视觉派还是融合感知派,也不管你什么模型,算法拿过来都能跑。
但另一方面,谁也没法把这颗芯片的算力真正榨干。
你看 Orin-X,单颗算力 254 TOPS,很多车一下整两颗,还有四颗的,算力干到上千 TOPS 了。而真正用智驾的时候,芯片的算力利用率可能也就 30% 左右,因为芯片里适合跑你这个算法的就那么多,其他部分也用不上。
更要命的是迭代速度。
车企的智驾模型,现在几个月就更新,一两年就大升级。但供应商那边的智驾芯片开发周期很长,往往跟不上。之前,英伟达 Thor 一推再推,不少车企只能 “ 等米下锅 ”,新车型也跟着耽误。
再加上,现在智驾基本都从原来的规则+小模型,转到了端到端大模型,模型越来越大,对芯片的需求也不一样,比如更注重 AI 推理能力。
如果还是用通用芯片去跑大模型,就得堆芯片,不光成本吃不消,车上就那么点地方,总不能塞个服务器吧。
所以车企们干着干着,就玩起了自研芯片。
但话说回来,其实造芯片不是目的,车企们的核心需求还是想选出适合自己算法的芯片。也没必要所有车企都成立芯片部门,大部分车企也没这个团队和预算啊。
最近,有家新的芯片公司 XHEART 新芯航途,就是奔着解决这个矛盾来的。
这家 XHEART 动作挺快,不到 3 年就把芯片做出来了。前两天,XHEART 开了个发布会,发布了最新的 X7 Ultra 芯片。脖子哥也去现场围观了一波。
参数上,这颗 X7 Ultra 有 700 TOPS 的大模型算力,非常适合跑智驾。因为这家公司做芯片的特点,就是大模型定义芯片,正中车企下怀。
啥意思呢?就说别人做芯片,是先把硬件做出来,再想办法让模型适配。XHEART 是反过来——先看大模型需要什么样的计算,再倒推着设计芯片架构。
这就好比买鞋子,别人是去店里从现成的尺码里挑,你是直接量脚型,定制一双,肯定会更合脚。
我们看一下这颗芯片的特点就知道了。
首先,X7 Ultra 给了一个超大核 NPU。
之前的通用芯片,主要靠一堆小核心并行干活,应对规控算法里那些小模型还行。
但现在发展到大模型,要从传感器数据直接生成结果,这里头主要是连续的大数据计算。你还用一堆小核处理,就得不停在核之间搬运数据,效率自然不高。
X7 Ultra 上的超大核,就不用来回倒腾,直接把内部数据互联速率从上百 GB/s 提升到 TB/s。
同时,这颗超大核 NPU 里还有高精度专用算子加速。
原来的 NPU,主要是面向卷积神经网络设计。但后面大家做大模型,都去搞 Transformer 架构后,这种运算它搞不定,就得去求助 CPU。这一来一回的,不但算得慢,还把内存通道给占了。
XHEART 就是针对 Transformer 的一些关键运算,做对应的硬件加速。
我打个比方,以前好比是手工做月饼,要一个一个捏成对应形状,慢得很。现在是直接开个模具,咔哒一下就好了,又快又标准。
然后是硬件并行度解锁。
这个听着绕,其实就是让更多计算单元协同工作。
大家应该玩过 Overcooked 分手厨房吧,这游戏通关的诀窍就是一个人做菜的时候,另一个要提前把菜备好,锅里不能停。
硬件并行差不多就是这意思,当这批数据在计算的时候,下一批数据已经准备好,让芯片一直是做完你的就做你的。
再就是 AI 工具链重构带来的整网级整合。
简单来说,模型里有很多不同分支的计算,这些计算的中间结果要写回到内存里,下次用再读回来,这样就需要反复读取内存。
X7 Ultra 上的这个整合,就是把分散的计算合并一起,做到内存零拷贝。
依靠这些优化,XHEART 给了个数据,基于量产智驾模型实测,X7 Ultra 的 NPU 计算利用率达到 98.7%。同时,和行业旗舰产品比,它的内存带宽消耗下降 80%,能效提升 100%。
除此之外,X7 Ultra 还有中国首发量产 Armv9 车规级 CPU,也就 Arm 最新一代的车规级架构,买新不买旧嘛。还有深度异构计算,特别是激光雷达处理带宽最高达 2000 万点/秒,支持几百甚至上千线的激光雷达。并且能满足 ISO 26262 ASIL-B 要求的安全能力,芯片对数据的保护更强。
那光看这些,大伙儿可能还是很难感受到这颗芯片强在哪。
别急,这次发布会,XHEART 的合作伙伴 Momenta,在现场公布了一段,自家最新模型 R7 Ultra 配合这颗 X7 Ultra 芯片的实景演示。
来,一起瞅瞅。
这是一个相当有难度的场景,难到一启动就没路。。。相当于是个侧方停车位,好在这个智驾是知道要先倒车,再出去。
而好不容易挪到路上,刚往前走,前面突然来个奔驰把路堵死。这时候,智驾在对面往前挤的那一下,立马就知道后退。对方挤一点,我就让一点。
但这条路只能过一台车,所以不是简单后退就行,得往右后退回到那个侧方位,才能让对面车走掉。可以看到,车子在这块很小的空间里,已经尽可能往边上靠了。
让过这台奔驰,继续出来。结果好巧不巧,刚走几步,又有车。。。
那还是继续倒车。这时候有意思的来了,在往后倒了没多久的时候,智驾发现对面黑车其实是要停车,这时候就不倒了,原地等着对面停好再过去。
这个反应又快又聪明,真有老司机的操作。
看得出来,这种芯片和模型深度配合,软硬件协同设计的玩法,会给智驾带来很大的提升。
实际上,XHEART 这套打法,在圈子里已经有点声量了。
这次发布会,XHEART 公布了之前已投入使用的 X7 系列的成绩,这颗芯片量产时间不过 8 个月,累计出货 20 万颗,搭载 10 款量产车型,并且已经获得超过 40 款车型订单。
不说都不知道,原来哥们已经悄摸摸卖出 20 万颗了。对于一家成立才 3 年的芯片公司,这个出货量已经很拿得出手了吧。
而且用这款芯片的车企,也都是主流品牌。在发布会的外场,就摆着这些车型,我也去逛了一圈,看到有大众、荣威、智己、奇瑞等等。
车企们的认可,不就说明大模型定义芯片这个路子,其实是很适合现在智驾的。
可以预见的是,智驾还会迭代,智驾模型也会越来越大。我们马上要到 L3,后面还会有 L4 阶段。
按照 Momenta 的估算,要想实现规模化 L4,模型参数需要达到 10-100B。这样巨大的参数,就更需要 “ 大模型定义芯片 ”,双方从模型需求入手,协同设计芯片,在车端成本、功耗和可靠性约束下,做出最适合的智驾芯片。
这种定制化芯片,也大概率会是接下来行业发展的大方向。
对了,在发布会最后,XHEART 还来了个炸裂的 one more thing。
他们公布下一代芯片 X9 的核心研发目标:3000 TOPS 大模型算力、700GB/s 单芯片内存带宽,计划于 2027 年推出。
一颗芯片干出 3000 TOPS 算力。。。显然,这就是为了以后模型参数量几倍甚至10倍提升准备的,我感觉算力爆炸的时代快要来了。
但不管怎么说,模型和芯片打配合的例子应该也会越来越多。像 Momenta 加 XHEART 这个组合,软硬件一起搞,以后想象力也会蛮大的。
智驾行业卷了这么多年,从传感器到算力,再到模型参数,其实每一轮最后比的,都是谁能把完整的方案落到车上。
说白了,消费者从不管这些技术词,就看你智驾好不好用。大模型定义芯片,也是为了做出更好的智驾。
最后也期待一波,3000 TOPS 算力下的智驾,会有怎样的表现。