GenAI新世界

3 月 20 日 AI 头条:腾讯:今年可以期待基于混元的独立app

Image

划重点:

  • 腾讯:今年可以期待基于混元的独立app
  • 微软聘请 Inflection 创始人运营新的消费者人工智能部门

  • 库克:苹果在生成式AI上“投资巨大”,今年晚些时候将分享“新突破”
  • 重塑数字安全,360安全大模型3.0正式发布
  • YouTube 新规上路:上传视频需标注是否为 AI 制作,包括合成配音 / 换脸等

  • 三星宣布成立 AGI 计算实验室,研究满足未来需求的下一代半导体

  • 沙特阿拉伯计划设立 400 亿美元 AI 风投基金

  • Nvidia和高通加入开源机器人联盟支持ROS开发

  • Nvidia 推出 NIM,让 AI 模型更顺利地部署到生产中

资讯详情:

腾讯:今年可以期待基于混元的独立app

腾讯今天发布2023年第四季度及全年财报。财报显示,腾讯混元自去年9月推出后,已发展成为领先的基础模型。腾讯混元功能持续拓展,包括文生图、文生视频等,目前已在内部400多个业务中内测,并已在腾讯会议和腾讯文档推出AI助手服务。

腾讯总裁刘炽平在今天腾讯2023年第四季度财报后透露,今年可以期待一下腾讯推出基于混元模型的更多的小程序甚至独立app。

微软聘请 Inflection 创始人运营新的消费者人工智能部门

据 TechCrunch 报道,微软聘请了备受瞩目的人工智能初创公司 Inflection AI 的联合创始人 Mustafa Suleyman 和 Karén Simonyan 以及他们的几位同事,这家萨蒂亚·纳德拉 (Satya Nadella) 领导的云巨头继续积极吸引顶尖人才。

Suleyman 也是 DeepMind 的联合创始人,谷歌于 2014 年收购了 DeepMind,以加强自己的人工智能工作。他将负责微软新成立的消费者人工智能部门 Microsoft AI,而 Simonyan 将作为首席科学家加入该公司。。穆斯塔法在微软的正式头衔是微软人工智能执行副总裁兼首席执行官,他将向首席执行官纳德拉汇报。

预计微软将在周四的一场以 Microsoft Copilot、Windows 和 Surface 为主题的活动中向消费者强调其最新的人工智能进展。

Image

库克:苹果在生成式AI上“投资巨大”,今年晚些时候将分享“新突破”

据华尔街见闻报道,苹果CEO库克周三在年度股东大会上表示,公司正在向AI领域投入大量资金。这是迄今为止苹果为拥抱生成式AI热潮,发出的最强烈信号。

库克表示,看到了生成式AI的惊人突破潜力,“这就是我们目前在这一领域进行大量投资的原因。我们相信,这将为用户在生产力、解决问题等方面带来变革性机遇。”苹果尚未推出与OpenAI的ChatGPT或谷歌的Gemini等模型竞争的产品,但他暗示今年将会有重大宣布。

库克说:“今年晚些时候,我期待与你们分享,我们将如何在生成式AI方面开辟新天地,我们相信这项技术可以重新定义未来。”据媒体此前报道,苹果计划利用AI,来提高检索存储在苹果设备上的数据的能力。

Image


重塑数字安全,360安全大模型3.0正式发布

3月20日,以“安全即服务进阶 AI引领未来实战”为主题的360安全大模型3.0发布会在京举行。360集团首席科学家兼360数字安全集团CTO潘剑锋在发布会上提到,“我们参考了人类大脑的运行逻辑,构建360安全大模型3.0框架。实际应用中,在多个专业任务效果上超过GPT4。”

本次发布的360安全大模型3.0框架,在构建时充分参考人类大脑的运行逻辑,基于数据、知识、算力优势,训练语言、规划、判别、道德、记忆五大功能中枢。其中,语言中枢实现语言翻译、文本摘要、意图识别能力;规划中枢实现程序生成、方案规划、目标拆解能力;判别中枢实现信息抽取、逻辑推理、是非判断、研判检测能力;道德中枢实现情感分析、道德法律能力;记忆中枢实现信息记忆能力。

Image


YouTube 新规上路:上传视频需标注是否为 AI 制作,包括合成配音 / 换脸等

YouTube 日前宣布,即日起任何人在上传、发布视频时,都需要标注“篡改或合成”的逼真内容,包括生成式 AI。

YouTube 将“逼真内容”定义为“任何观众容易误认为是真实的人事物或地点”的内容。若视频创作者使用真人声音的合成版本来为视频配音,或发布“AI 换脸”主题的视频,就需要附上标签。此举的本质目的是防止 AI 生成内容可能导致的虚假信息传播,而非反对创作者通过 AI 制作内容。

官方表示,创作者必须披露存在以下情况的内容:让现实中存在的人看似说了某些话或做了某些事,但实际上此人并未说过或做过;加工有关真实事件或地点的视频片段;生成逼真但实际并不存在的场景。

Image


三星宣布成立 AGI 计算实验室,研究满足未来需求的下一代半导体

三星半导体 CEO 庆桂显(Kye Hyun Kyung)昨日于领英发文,宣布在美国和韩国成立三星半导体 AGI(Artificial General Intelligence,通用人工智能)计算实验室。

实验室由前谷歌开发人员禹东赫(Dong Hyuk Woo)领导,致力于开发一种能满足未来通用人工智能计算需求的全新半导体。

AGI 计算实验室最初将开发用于大语言模型 LLM 的芯片,专注于推理与服务应用。为了开发能大幅降低运行 LLM 所需功耗的芯片,三星半导体正在重新审视芯片架构的各个方面,包括内存设计、轻量级模型优化、高速互连、先进封装等。

Image


沙特阿拉伯计划设立 400 亿美元 AI 风投基金

据市场消息,沙特阿拉伯正计划设立 400 亿美元的 AI 初创企业风投基金。

根据多位消息人士的说法,这一坐拥巨大石油财富的海湾国家正寻求支持一系列的 AI 科技初创企业,涵盖从芯片设计到数据中心领域。该国代表甚至表示沙特正考虑创办自己的 AI 公司。

具体而言,沙特方面与硅谷顶级风险投资公司安德森 霍洛维茨(Andreessen Horowitz)等方就潜在的合作关系进行了讨论,不过计划仍存有变化的可能。该基金有望于今年下半年正式推出。

Image


Nvidia和高通加入开源机器人联盟支持ROS开发

据 TechCrunch 报道,开源机器人基金会 (OSRF) 本周宣布成立类似名称的开源机器人联盟 (OSRA)。这项新计划旨在维持开源机器人项目的开发和维护,特别关注 OSRF 自己的机器人操作系统 (ROS)。

ROS 于 2007 年首次由湾区孵化器 Willow Garage 发布,数十年来在机器人开发中发挥了基础性作用。为了表示支持,英伟达和高通均已签约成为新联盟的“白金”成员,此外还有 Alphabet 的 X 衍生公司 Intrinsic。

Nvidia 副总裁 Gordon Grigor 在与该新闻相关的新闻稿中指出:“Nvidia 使用 ROS 2 进行开发,为开发人员、研究人员和商业应用程序带来加速计算和人工智能。”“作为 OSRA 的首届白金会员,我们将通过协助开发工作并提供治理和连续性来合作推进整个生态系统的开源机器人技术。”

Image


Nvidia 推出 NIM,让 AI 模型更顺利地部署到生产中

品玩3月20日讯,据 TechCrunch 报道,在 GTC 会议上,Nvidia 宣布推出Nvidia NIM,这是一个新的软件平台,旨在简化定制和预先训练的 AI 模型在生产环境中的部署。NIM 继承了 Nvidia 围绕推理和优化模型所做的软件工作,并通过将给定模型与优化的推理引擎相结合,然后将其打包到容器中,使其作为微服务进行访问,从而使其易于访问。

英伟达表示,通常情况下,开发人员需要数周甚至数月的时间才能运送类似的容器,而且前提是该公司甚至拥有任何内部人工智能人才。通过 NIM,Nvidia 的明确目标是创建一个 AI 就绪容器生态系统,使用其硬件作为基础层,将这些精选的微服务作为希望加快 AI 路线图的公司的核心软件层。

Image
今日重点论文:

艾伦人工智能研究所:

《Accelerating the Science of Language Models》

OLMo提供了完整的框架,包括训练数据、训练和评估代码,以及一个真正开放的语言模型。这篇论文的亮点是提供了一个开放的框架,使研究人员能够更好地研究语言模型的偏差和潜在风险,并且鼓励开放研究社区的发展和创新。

论文地址:

https://arxiv.org/abs/2402.00838v2


同济大学上海智能自主系统研究院:

《Retrieval-Augmented Generation for Large Language Models: A Survey》

论文详细分析了RAG的演变,重点关注了三个关键范式:Naive RAG、Advanced RAG和Modular RAG。论文系统地研究了RAG系统的三个基本组件:检索器、生成器和增强方法,强调了每个组件内的尖端技术。此外,论文还介绍了评估RAG模型的新指标和能力,以及最新的评估框架。最后,论文从三个角度概述了未来的研究方向:未来的挑战、模态扩展以及RAG技术栈和生态系统的发展。

论文地址:

https://arxiv.org/abs/2312.10997v2


Apple:

《MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training》

本论文通过对图像编码器、视觉语言连接器和各种预训练数据选择的全面剖析,确定了几个关键的设计要点,并提出了一种新的预训练数据选择方法,通过大规模多模态预训练,建立了一个30B参数的多模态模型家族MM1,该模型在预训练指标上领先,并在多个基准测试中取得了竞争性能。

论文地址:

https://arxiv.org/abs/2403.09611v1


剑桥大学:

《Why do Random Forests Work? Understanding Tree Ensembles as Self-Regularizing Adaptive Smoothers 》

论文提供了一种新的量化决策树集成的平滑度的方法,并对决策树集成的优势进行了进一步的解释。研究表明,决策树集成可以通过三种不同的机制提高性能,即减少噪声引起的预测方差、减少给定固定输入数据时学习函数质量的变异性,以及通过丰富可用的假设空间减少潜在的偏差。

论文地址:

https://arxiv.org/abs/2402.01502v1


北京大学:

《Simple and Scalable Strategies to Continually Pre-train Large Language Models》

论文提出了一种简单且可扩展的持续学习策略,包括学习率重新升温、学习率重新衰减和重放以前的数据,来解决新数据分布变化带来的问题,实现了与重新训练相当的性能,同时节省了大量计算资源。论文在两个常用的LLM预训练数据集(英语→英语和英语→德语)上进行了实验,证明了持续学习策略可以成功更新LLMs,并且在10B参数LLM上也可以实现与重新训练相当的性能。此外,论文还提出了替代余弦学习率调度的方法,避免了学习率重新升温带来的遗忘问题。

论文地址:

https://arxiv.org/abs/2403.08763v1

Image