重创英伟达, 新“卖铲人”直接把模型刻进芯片了
本期播客
重创英伟达, 新“卖铲人”直接把模型刻进芯片了
碾压英伟达50倍?估值3000万的初创公司,正在撕裂AI芯片的“第一性原理”
作为在科技赛道摸爬滚打多年的投资人,我每天都会看到无数号称“颠覆英伟达”的BP(商业计划书)。但绝大多数只是在GPU的生态护城河外蹭蹭痒。然而,今天进入视野的初创公司 Taalas 和它的 HC1 芯片,却让我闻到了一丝真正危险且迷人的血腥味。
这不仅是因为它宣称性能是Nvidia Blackwell架构的近50倍,更是因为它从第一性原理出发,对当前AI算力底层逻辑发起了一场极端的“自杀式冲锋”。
一、 算力的第一性原理:对抗“冯·诺依曼瓶颈”
要理解Taalas的疯狂,我们必须回归芯片设计的第一性原理: 计算的本质,是数据的搬运与处理。
当前所有主流GPU(包括英伟达),都受制于传统的“冯·诺依曼架构”:计算单元与存储单元分离。当运行大模型时,GPU把大部分的时间和巨大能耗(高达数十千瓦,甚至需要液冷),都浪费在了把模型参数从HBM(高带宽内存)搬运到计算核心的路上。这被称为 “内存墙(Memory Wall)” 。英伟达的护城河,很大程度上建立在其无与伦比的HBM互联带宽和NVLink技术上。
Taalas的解法极其暴力: 不搬了。
通过Mask ROM工艺,Taalas直接把Meta的Llama 3.1 8B模型权重“刻死”在芯片的金属互连层中。计算逻辑和权重数据在物理层面上合二为一(存算一体)。
结果惊人: 单用户17,000 tokens/s输出,功耗仅250W(标准风冷),构建成本是同等GPU的1/20。 代价惨烈: 灵活性归零。这块芯片只能跑Llama 3.1 8B,想换模型?对不起,重新流片。
这就像英伟达造的是一把无所不能的“瑞士军刀”,而Taalas造的是一把只能切特定尺寸牛排的“极其锋利、极其便宜的定制手术刀”。
二、 投资逻辑的生死线:前提条件假设
作为分析师,我们不能被纸面参数忽悠。Taalas的商业模式能否跑通,完全建立在一个极其严苛的“第一性原理前提”之上:AI模型将迅速走向商品化与固化(Stabilization)。
权威历史案例支撑:加密货币挖矿的算力演进史。
回看比特币挖矿的历史,算力经历了 CPU -> GPU -> FPGA -> ASIC (专用集成电路) 的必然演进。当算法(SHA-256)彻底固定后,毫无灵活性的ASIC矿机凭借百倍的能效比,将GPU彻底赶出了挖矿市场。
Taalas押注的前提是:AI推理市场也将迎来“ASIC时刻”。
他们赌的是,在未来海量的AI落地场景中(如客服、基础文案生成、固定逻辑的NPC),企业不需要每天更新模型。一个Llama 3.1 8B级别的开源模型,足以在长达1-2年的时间里满足80%的业务需求。在这个前提下,客户为了极低的推理成本(7.6美分/百万token)和功耗,愿意牺牲灵活性,并给出一年的商业承诺。
三、 逻辑推演:如果前提条件崩塌?
但任何严谨的投资分析,都必须做压力测试。如果上述假设崩塌,市场会走向何方?
如果AI行业的演进速度在未来三年内依然保持“狂飙突进”,新架构(如MoE、非Transformer架构的Mamba/RWKV)层出不穷,模型迭代周期以“周”计算;或者未来的AI推理高度依赖“持续学习(Continuous Learning)”和动态权重更新——那么Taalas的极端路线将是一场灾难。
一旦前提崩塌,我们将得出以下反向结论与趋势预测:
“刻舟求剑”的硬件会变成电子垃圾: 两个月的芯片定制周期,在模型日新月异的时代依然太慢。芯片刚造出来,模型就已经过时了。 量化精度的致命伤将被放大: Taalas目前为了极致性能采用了自定义的3-bit激进量化。在模型能力未完全溢出的当下,3-bit带来的精度损失在复杂逻辑推理场景中往往是不可接受的(这也是为什么他们急于在HC2推出4-bit)。如果高精度是刚需,这种硬连线的架构优势会大打折扣。 灵活性依然是王道(GPU与FPGA的长期霸权): 如果算法不收敛,英伟达的通用CUDA生态和极高的带宽冗余,依然是所有云厂商唯一安全的避风港。
四、 商业洞察:赢家通吃的终局,还是长尾市场的狂欢?
目前Taalas副总裁Paresh Kharya提出了API、卖芯片、定制合作三种模式。但在我看来,其最合理的商业归宿,是成为“云厂商底层基建的定制代工厂”。
当DeepSeek R1(671B)这样颠覆性的开源模型证明了其长期的使用价值后,AWS、微软Azure或者阿里云,完全有动力采购类似Taalas的方案,用30颗芯片组成的集群来承载那些最高频、最标准化的API调用,从而将极其昂贵的GPU算力释放出来,去投入到下一代模型的Training(训练)和高复杂度Inference(推理)中。
总结:
Taalas不是在造一颗芯片,而是在做一次豪赌。他们赌的是AI产业的成熟度已经到了可以“固化基建”的临界点。不管他们最终是成为下一个时代的霸主,还是成为先烈,这种用零灵活性换取极致性能的设计思路,都已经为疯狂的AI算力竞赛,提供了一个极具参考价值的降本终局答案。
个人认为这条路一定会走通, 未来将利好具身智能行业(机器人、大黄蜂等), 而公有云如果还单纯仅靠卖tokens(API调用)的话利润可能会受较大影响, 未来一定是能解决复杂问题的AI产品的天下.