DeepSeek一口气开源6个项目
之前DeepSeek在英伟达上开源的那套东西,昨天他们在华为昇腾上开源了对应版本:
🔥昇腾版做了啥
TileLang是做芯片软件生态,先得有个顺手的语言。CUDA写起来费劲,TileLang想让编程简单点,代码别那么绕。但它不只是好写,还能把芯片性能榨到接近上限。这条路先在英伟达上跑通了,DeepSeek V4训练里大部分算子都是它写的。
把昇腾底层的Ascend C指令包一层,写法是高级语言,性能不丢。DeepSeek训练里用到的每个TileLang算子,昇腾上都有对应的高性能实现。开源出来,也是给别的AI芯片打个样,看软件生态怎么搭。
还一起开了几个组件,DeepGEMM管矩阵运算,DeepEP管跨设备通信,TileKernels管向量计算和访存,FlashMLA管稀疏注意力、长上下文能快一点,DeepSelect管数据筛选。几个关键测试里,计算和通信都摸到了硬件上限。
🔥开源项目链接
TileLang: https://github.com/tile-ai/tilelang
DeepGEMM Ascend: https://github.com/deepseek-ai/DeepGEMM-Ascend
DeepEP Ascend: https://github.com/deepseek-ai/DeepEP-Ascend
TileKernels: https://github.com/deepseek-ai/TileKernels
FlashMLA: https://github.com/deepseek-ai/FlashMLA
DeepSelect: https://github.com/deepseek-ai/DeepSelect
@pythonic生物人