THE READING ROOM
2024 年文章
让阅读慢下来，跟随好奇心发现下一篇。
说个暴论\n \n \n \n\n这个暴论需要叠加很多 buff，但我还是想说：建议个人和小团队不要碰大模型训练！\n\n1 、哪些人是例外？\n\n如果你为了发论文尽快毕业，那该练还是得练，还要变着花样练。\n\n如果你是全栈的超级个体，能解决数据、模型、推理和资金等全链路，那么请勇敢冲。\n\n本文基本只讨论 LLM 和 VLM。除此之外，我想象不到个人和小团队还有什么理由去训练大模型。\n\n 2 、不训练大模型怎么办？\n\n企业私有数据，不能调用外部 API，不训练怎么办？\n\n做好开源 LLM+RAG 的部署。在没有触及 RAG 的性能边界之前，不要微调模型。\n\n常见方案是对一些图片 or PDF 文件做好 OCR，转为 Markdown，在每次问答前，将需要的上下文塞给 LLM，拿到的结果就不会太有问题。\n\nRAG 自带在线持续学习的特性，非常适合业务场景。\n\n开源LLM对一些特定领域的效果非常差，怎么办？\n\n还是得先试试 RAG，不行就试试 In-context Learning，在上下文中，教 LLM一些领域知识。\n\n128K 的上下文长度非常关键！ 这个可以降低你 RAG 的门槛，以及提高 LLM 对领域知识的掌握。\n\n我真的很难想象，现在还有什么特殊的领域，LLM 一点办法都没有。\n\n有推荐的方案么？\n\n如果你能调用外部 API，那么就根据业务要求，选择性价比最高的一款。\n\n能不自己部署模型，就不自己部署。硬件成本和维护成本，对于小团队来说可能是压垮骆驼的一座大山。\n\n选择调用 API 的时候，你会发现，全世界最聪明的人和最听话的 AI，都在抢着为你服务。你完全不用管有几台服务器，你可以在任意时间，随便拉高并发量。随心切换更强的模型，或者更便宜的模型。\n\n这里给腾讯云混元大模型做个推荐，它的性价比和能力就很不错。\n\n大厂基座模型团队之外的 AI 人，需要先了解现有 LLM 的性能边界，敏锐地分辨出现有模型能力和过去方案的差异，能否给当前的业务带来新的变化，然后快速解决现有业务的难题。\n\n不要在低收益的赛道上无意义地投入，错位竞争，降维打击，也许更有效。\n\n本文授权自知乎答主强化学徒，原文见：https://zhuanlan.zhihu.com/p/5851457581
阅读全文 ：说个暴论\n \n \n \n\n这个暴论需要叠加很多 buff，但我还是想说：建议个人和小团队不要碰大模型训练！\n\n1 、哪些人是例外？\n\n如果你为了发论文尽快毕业，那该练还是得练，还要变着花样练。\n\n如果你是全栈的超级个体，能解决数据、模型、推理和资金等全链路，那么请勇敢冲。\n\n本文基本只讨论 LLM 和 VLM。除此之外，我想象不到个人和小团队还有什么理由去训练大模型。\n\n 2 、不训练大模型怎么办？\n\n企业私有数据，不能调用外部 API，不训练怎么办？\n\n做好开源 LLM+RAG 的部署。在没有触及 RAG 的性能边界之前，不要微调模型。\n\n常见方案是对一些图片 or PDF 文件做好 OCR，转为 Markdown，在每次问答前，将需要的上下文塞给 LLM，拿到的结果就不会太有问题。\n\nRAG 自带在线持续学习的特性，非常适合业务场景。\n\n开源LLM对一些特定领域的效果非常差，怎么办？\n\n还是得先试试 RAG，不行就试试 In-context Learning，在上下文中，教 LLM一些领域知识。\n\n128K 的上下文长度非常关键！ 这个可以降低你 RAG 的门槛，以及提高 LLM 对领域知识的掌握。\n\n我真的很难想象，现在还有什么特殊的领域，LLM 一点办法都没有。\n\n有推荐的方案么？\n\n如果你能调用外部 API，那么就根据业务要求，选择性价比最高的一款。\n\n能不自己部署模型，就不自己部署。硬件成本和维护成本，对于小团队来说可能是压垮骆驼的一座大山。\n\n选择调用 API 的时候，你会发现，全世界最聪明的人和最听话的 AI，都在抢着为你服务。你完全不用管有几台服务器，你可以在任意时间，随便拉高并发量。随心切换更强的模型，或者更便宜的模型。\n\n这里给腾讯云混元大模型做个推荐，它的性价比和能力就很不错。\n\n大厂基座模型团队之外的 AI 人，需要先了解现有 LLM 的性能边界，敏锐地分辨出现有模型能力和过去方案的差异，能否给当前的业务带来新的变化，然后快速解决现有业务的难题。\n\n不要在低收益的赛道上无意义地投入，错位竞争，降维打击，也许更有效。\n\n本文授权自知乎答主强化学徒，原文见：https://zhuanlan.zhihu.com/p/5851457581面试官经常问的十个棘手的 JavaScript 问题
字符串是不可变的，因此一旦分配给一个值，就不能将其更改为不同的值，您可以做的是重新分配它。请记住，更改值和重新分配给另一个值是不同的。
阅读全文 ：面试官经常问的十个棘手的 JavaScript 问题中国计划在2030年前实现载人登月/胖东来称「员工结婚不许要彩礼」只是倡导/小米新车或明年一季度发布
·马斯克脑机接口公司获批启动临床实验 ·黑神话悟空获 2024 金摇杆奖年度游戏大奖 ·努比亚 Z70 Ultra 旗舰手机发布
阅读全文 ：中国计划在2030年前实现载人登月/胖东来称「员工结婚不许要彩礼」只是倡导/小米新车或明年一季度发布【由浅到深】从神经网络原理、Transformer模型演进、到代码工程实现
阅读这个文章可能的收获：理解AI、看懂模型和代码、能够自己搭建模型用于实际任务。
阅读全文 ：【由浅到深】从神经网络原理、Transformer模型演进、到代码工程实现《漫威争锋》开发者访谈：「银河规仪」系列皮肤诞生始末
对于本体免费的英雄对战类游戏来说，无论具体的玩法、形态如何，皮肤装扮都是一个逃不开的话题。
阅读全文 ：《漫威争锋》开发者访谈：「银河规仪」系列皮肤诞生始末