线上课堂 | 以卓越的性价比在 TPUs (Trillium/Ironwood) 上部署开放模型

AI 的兴起，给基础设施带来了前所未有的挑战，大模型需要强大的计算能力和专用硬件才能高效地进行训练、微调和推理。Google 的张量处理单元（TPU）就是为满足日益增长的 AI 工作负载需求而设计，本次课程给大家介绍开放的大语言模型及扩散模型在 TPU 上的训练和推理最佳实践，把训练 Gemini 模型的同样强大、高效和可持续的基础架构带给出海企业和初创公司。

• TPU 简介与 Trillium/Ironwood 的演进

• 在 TPU 上服务开放模型的关键技术

• 吞吐量延迟等具体性能指标解读

• TPU 硬件特性所带来的性能优势

• 成功案例分享与总结