量子位

量子位系列栏目「最“in”大模型」|全新角度解析&展望大模型

“in”

是近年来兴起的一个网络用语,通常是in fashion的简称,意指走在潮流最前沿。

作为科技圈顶流之一的大模型,它最in的打开方式应该是什么样的?为了使大模型可以更in practice,英特尔给出了哪些够in的技术路径或解题思路?大家又如何更in地迎接这波创新?

这是量子位和英特尔联合推出的《最“in”大模型》专栏,希望以系列文章的形式,带领大家对大模型这个科技圈最in的顶流,做一次全新角度的解析和展望。

Image

点击专栏文章标题或图片,即可跳转:

开篇

我们为最“in”大模型,找到了另外一条解题思路

Image

第一期

十亿参数,一键瘦身!「模型减重」神器让大模型狂掉3/4 | 最“in”大模型

Image

第二期

保护大模型应用安全,现在不需要拿性能做代价了 | 最“in”大模型

Image

第三期

如何优化ChatGLM-6B?一行代码就行 | 最“in”大模型

Image

第四期

一个简单模型就让ChatGLM性能大幅提升 | 最“in”大模型

Image

第五期

推理1760亿参数的BLOOMZ,性能时延仅3.7秒 | 最“in”大模型

Image

第六期

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

Image

第七期

让大模型在CPU上的推理加速达40倍!这个工具包只需不到9行代码,就能显著提升推理性能

Image
Image