原力注入

Hello, DeepSeek Open Infra!

DeepSeek-Open-Infra

你好,DeepSeek Open Infra!

原文:https://github.com/deepseek-ai/open-infra-index

202502 开源周

我们是一个小团队 @deepseek-ai,致力于 AGI 探索方面的极限。

从本周开始,即 2025 年 2 月 24 日,我们将开源 5 个代码库,每天发布一个,这并不是因为我们做出了宏大的声明,而只是作为开发人员以完全透明的方式分享我们微小但真诚的进步。

这些是我们在线服务的简单组成部分:经过记录、部署和生产实战测试。
没有任何虚假信息,只有真诚的代码,推动着我们微小却雄心勃勃的梦想不断前行。

原因何在?因为每一条分享的线路都会成为加速旅程的集体动力。
每日解锁即将开始。没有象牙塔 - 只有纯粹的车库能量和社区驱动的创新🔧

敬请关注——让我们一起在户外探索极客世界。

第 1 天-FlashMLA

适用于 Hopper GPU 的高效 MLA 解码内核
针对可变长度序列进行了优化,经过了生产中的实战检验

🔗 GitHub 仓库
✅ BF16 支持
✅ 分页 KV 缓存(块大小 64)
⚡ 性能:3000 GB/s 内存限制 | BF16 580 TFLOPS 计算限制于 H800

正在发布...

2024 年人工智能基础设施论文(SC24)

Fire-Flyer AI-HPC:一种经济高效的深度学习软硬件协同设计

📄 论文链接
📄 Arxiv 论文链接