8月1日 AI 头条｜谷歌发布全新Gemma 2 2B模型，性能超越GPT-3.5-Turbo与Mixtral-8x7B

划重点:

• 谷歌发布全新Gemma 2 2B模型，性能超越GPT-3.5-Turbo与Mixtral-8x7B
• Runway宣布推出Gen-3 Alpha Turbo 版本 视频生成提速7倍
• OpenAI 测试长输出版 GPT-4o，单次 可输出64K tokens
• 360悬浮球将换成AI助手：集成15家最强大模型 用户可自行切换选择
• Google DeepMind 发布大模型可视化工具Gemma Scope
• 阿里巴巴将推出人工智能对话式采购引擎，预计 9 月发布
• 甲骨文与英伟达深化合作，引入新GPU和AI基础设施服务
• 英伟达黄仁勋：每个人都将拥有 AI 助手
• TikTok 成为微软 AI 服务最大客户之一

资讯详情： 谷歌发布全新Gemma 2 2B模型，性能超越GPT-3.5-Turbo与Mixtral-8x7B 据谷歌官方消息，谷歌近日推出小模型Gemma 2 2B，可以在移动端运行。 Gemma2 2B 在 “聊天机器人竞技场” 排行榜上的表现尤为抢眼，以1130的高分，成功超越了包括 GPT-3.5-Turbo-0613和 Mixtral-8x7b 在内的众多竞争对手，甚至能与一些体量十倍于它的模型抗衡。得益于 NVIDIA TensorRT-LLM 库的优化，Gemma22B 的部署十分高效，适用于从边缘设备到强大的云环境等多种场景。 Gemma 2 2B模型在数据中心、本地工作站和边缘 AI 应用中都能游刃有余。

Runway宣布推出Gen-3 Alpha Turbo 版本 视频生成提速7倍 视频生成模型 Runway 官方近日宣布，他们正在训练一款全新的视频生成模型Gen-3 Alpha Turbo ，将会在不久后推出。 据悉，这款模型的视频生成速度比原始 Gen-3 Alpha 快 7 倍，同时在许多用例上与其性能相当。联合创始人兼CEO Cristóbal Valenzuela更是在X平台上自豪地宣布，用户可以使用Gen-3Alpha Turbo"实时"或接近实时地生成新视频。 Runway表示，Gen-3 Alpha Turbo将会在几天后推出，价格将大幅降低，并向免费用户开放。

OpenAI 测试长输出版 GPT-4o，单次 可输出64K tokens OpenAI 近日宣布，正在测试长输出版 GPT-4o，每次请求最多可输出 64K tokens。 目前该版本仅限 Alpha 测试参与者使用，可通过使用“gpt-4o-64k-output-alpha”模型名称来访问长输出版 GPT-4o。 OpenAI 表示，由于长输出版本推理成本更高，因此该模型的定价有所增加，每百万 tokens 输入价格为 6 美元、每百万 tokens 输出价格为 18 美元。

360悬浮球将换成AI助手：集成15家最强大模型 用户可自行切换选择 在今天举办的ISC.AI2024第十二届互联网安全大会上，三六零创始人周鸿祎宣布360悬浮球将换成AI助手，同时360浏览器将新增AI助手悬浮按钮。 周鸿祎表示，全新的 360 AI 助手不仅有 360智脑提供支持，同时360还与15家顶尖的大模型公司达成合作，将其大模型产品集成到360 AI 助手中，让用户可以自由挑选。用户还可以让多个大模型共同回答，实现效果对比和交叉验证，以获得最优解。 除此之外，360推出了包含超过200个工具和权益的AI办公套件，覆盖了图片、文档、音视频等多种办公需求。

Google DeepMind 发布大模型可视化工具Gemma Scope 据谷歌官方消息，宣布推出 Gemma Scope，这是一套帮助研究人员了解 Gemma 2内部工作原理的新工具。 Gemma Scope 集合了数百个免费开放的稀疏自动编码器 (SAE)，适用于 Gemma 2 9B 和 Gemma 2 2B。谷歌还对 Mishax 进行了开源，Mishax 是我们开发的一款工具，它支持 Gemma Scope 背后的大部分可解释性工作。 谷歌希望Gemma Scope 的发布能促成更多雄心勃勃的可解释性研究。进一步的研究有可能帮助该领域建立更强大的系统，开发更好的防护措施来防止模型幻觉，并防范来自自主人工智能代理的风险，如欺骗或操纵。

阿里巴巴将推出人工智能对话式采购引擎，预计 9 月发布 据财联社报道，阿里巴巴国际数字商业集团发布公告，宣布推出人工智能对话式采购引擎，预计将于今年 9 月首次亮相。 根据声明，该引擎专注于 B2B 电商业务，旨在改变中小企业的全球采购流程，使其更加直观和高效。这项新服务将整合所有电商平台，专注于理解自然语言并将其转化为专业采购请求，还可以预测采购需求并提供建议。

甲骨文与英伟达深化合作，引入新GPU和AI基础设施服务 据英伟达官方消息，甲骨文和英伟达将在其云基础设施中引入新的 GPU 选项和 AI 基础设施服务。 此次合作的核心在于，OCI 的计算服务新增了 Nvidia L40S GPU，同时还为 Nvidia H100Tensor Core GPU 提供了新的虚拟机选项。Oracle 云基础设施从入门级到高性能的扩展 Nvidia GPU 阵容，反映了不同规模企业对 AI 计算能力日益增长的需求。 新的 L40S GPU 实例是多用途的 AI 加速器，适用于包括推理、小型模型训练以及像数字孪生这样图形密集型的应用。Nvidia 的加速计算产品总监 Dave Salvator 称其为“通用 AI 加速器”，它不仅能处理传统 AI 任务，在推理方面更有优势，还能用于训练小型模型，同时具备3D 渲染和视频处理的视觉能力。

英伟达黄仁勋：每个人都将拥有 AI 助手 英伟达CEO 黄仁勋近日表示，未来每个人都会有一个 AI 助手，每一家公司、公司内的每一项工作都将得到 AI 的帮助。 黄仁勋也表示，生成式 AI 能提升人类生产力，支撑其的加速计算技术则有望使计算更加节能，加速计算可以节省 20 倍甚至 50 倍的能耗，并能完成同样的处理工作。黄仁勋认为，应加速每一个应用，进而减少全世界能源使用量。 这次谈话之前，英伟达推出了一套新的 NIM 推理微服务，专为各种工作流程量身定制，包括 OpenUSD、3D 建模、物理、材料、机器人、工业数字孪生和物理 AI。

TikTok 成为微软 AI 服务最大客户之一 据 The Information 报道，截至今年 3 月份，TikTok 每月向微软支付近 2000 万美元，以通过微软购买 OpenAI 的模型。这笔金额几乎占据了微软 AI 收入的四分之一，也使 TikTok 成为微软 AI 服务的最大客户之一。 在全球云计算市场的竞争中，微软通过整合 OpenAI 的人工智能技术，成功地将其云服务转化为一项利润丰厚的业务。微软的云 AI 业务有望实现年收入 10 亿美元，但该报道指出，如果 TikTok 开发出自己的大型语言模型，它可能不再需要如此大量地依赖这些能力。 报道称字节跳动正在尝试构建自己的 AI 模型。

今日重点论文： 哈佛商学院： 《AI Companions Reduce Loneliness》 通过使用新的方法来微调大型语言模型以检测对话和评论中的孤独感，研究发现人工智能伴侣可以成功地缓解孤独感，与与另一个人交互相当，而比观看YouTube视频等其他活动更有效。研究还发现，消费者低估了人工智能伴侣改善孤独感的程度。研究使用了一种新的方法来检测孤独感，使用了多项实验来验证人工智能伴侣的有效性，证明了人工智能伴侣可以缓解孤独感，并且消费者低估了它的效果。研究还发现，人工智能伴侣的表现以及让用户感到被倾听的程度解释了减轻孤独感的原因。 论文地址： https://arxiv.org/abs/2407.19096v1 Sony AI： 《Stretching Each Dollar: Diffusion Training from Scratch on a Micro-Budget》 本论文试图通过降低计算成本，解决大规模文本到图像生成模型的开发集中在具备大量计算资源的人群的问题。论文提出了一种低成本的大规模文本到图像扩散变换器模型训练方法，其中通过在训练期间随机屏蔽高达75％的图像块，来降低变换器的计算成本。论文使用预处理的图像块混合器和专家混合层来提高性能，同时证明了使用合成图像进行微预算训练的关键优势。 论文地址： https://arxiv.org/abs/2407.15811v1 普林斯顿大学： 《LitSearch: A Retrieval Benc hmark for Scientific Literature Search》 引入LitSearch检索基准，使用GPT-4和作者手动编写的问题，评估现有的检索模型和两种基于LLM的重排策略。结果显示现有的稠密检索器比BM25表现更好，商业搜索引擎表现最差。LitSearch是一个包含597个现实文献检索问题的基准，手动检查或编辑以确保高质量。实验结果表明，现有的稠密检索器比BM25表现更好，LLM-based reranking进一步提高了表现。商业搜索引擎表现最差。 论文地址： https://arxiv.org/abs/2407.18940v1 谷歌： 《Mixture of Nested Experts: Adaptive Processing of Visual Tokens》 论文旨在利用视觉媒介中的信息冗余来提高处理效率。当前的Vision Transformer (ViT)模型虽然适用于大数据，但未能充分利用信息冗余，导致计算成本较高。Mixture of Experts (MoE)网络虽然具有可扩展性，但参数量较大。本文提出了Mixture of Nested Experts (MoNE)，利用嵌套结构的专家，使得处理冗余信息的专家具有更低的计算成本，从而实现了等效性能且计算成本降低了两倍以上。 论文地址： https://arxiv.org/abs/2407.19985v2