公众号
机器之心
专业的人工智能媒体和产业服务平台
这个来源的文章
预训练无需注意力，扩展到4096个token不成问题，与BERT相当
在不使用注意力的情况下能够复制BERT预训练结果，并可扩展到4096个token的长程预训练。
阅读全文 ：预训练无需注意力，扩展到4096个token不成问题，与BERT相当对Copilot进行逆向工程之后，我发现它可能只用了参数量12B的小模型
Copilot 使用的是可能 12B 参数模型而不是 175B 参数模型。对于开源工作者来说，这是非常令人鼓舞的，这意味着一个中等大小的模型就可以提供如此优秀的建议。
阅读全文 ：对Copilot进行逆向工程之后，我发现它可能只用了参数量12B的小模型港科大郭毅可团队招收创造性AI方向博士生、博士后、研究助理
“香港人机共生艺术创造平台技术建设”项目旨在探索新的人机共生创造基础理论和系统，涉及 ai 创造和审美、虚拟和增强现实、ai 同理心、神经科学和区块链技术等多个交叉学科。
阅读全文 ：港科大郭毅可团队招收创造性AI方向博士生、博士后、研究助理热点解读：大模型的突现能力和ChatGPT引爆的范式转变
本文将仔细探讨大模型的突现能力是什么，大型语言模型可以提供什么，以及它们在更广泛的 NLP / ML 任务中的潜在优势是什么。
阅读全文 ：热点解读：大模型的突现能力和ChatGPT引爆的范式转变一键从Prompt到PowerPoint，斯坦福博士生自制的PPT生成神器火了
谁没有过为 PPT 熬夜的经历？现在，免费的一键生成 PPT 神器终于诞生了。
阅读全文 ：一键从Prompt到PowerPoint，斯坦福博士生自制的PPT生成神器火了够快！爆火的ChatGPT等价开源项目来了，网友：我担心跑不起来
该项目目前只包含训练架构和代码，没有预先训练好的权重。在使用说明上，文档也显示必须先要训练 PaLM。
阅读全文 ：够快！爆火的ChatGPT等价开源项目来了，网友：我担心跑不起来大规模预训练、可控文本生成方向，清华大学计算机系NLP实验室招聘博士后（长期有效）
本期将为大家介绍清华大学计算机系NLP实验室博士后招聘的相关信息。
阅读全文 ：大规模预训练、可控文本生成方向，清华大学计算机系NLP实验室招聘博士后（长期有效）