GenAI新世界

6月4日 AI 头条 | 面壁智能刘知远:确信Llama3-V是对MiniCPM-Llama3-V 2.5套壳

Image

划重点:

  • 面壁智能刘知远:确信Llama3-V是对MiniCPM-Llama3-V 2.5套壳

  • 马斯克计划为 xAI 购买约30万块 AI 芯片

  • 昆仑万维开源2千亿稀疏大模型天工MoE

  • 美国约有7%人口每天使用 ChatGPT

  • 亚马逊推出“Project PI”计划,利用 AI 检测商品完整度

  • 首个面向气象导航的全球气象大模型,复旦大学发布“伏羲”2.0

  • Adobe 因销售知名摄影师风格头像而遭斥责

  • 微软发布大规模大气基础模型Aurora,用AI预测全球极端天气

  • 新加坡计划建设量子计算和数据中心,推动人工智能发展

资讯详情:

面壁智能刘知远:确信Llama3-V是对MiniCPM-Llama3-V 2.5套壳

针对“斯坦福AI团队被曝抄袭中国面壁开源模型”,面壁智能创始人刘知远近日在知乎发表回应。

刘知远表示:已经比较确信Llama3-V是对我们MiniCPM-Llama3-V 2.5套壳,比较有意思的证据是MiniCPM-Llama3-V 2.5研发时内置了一个彩蛋,就是对清华简的识别能力。这是我们从清华简逐字扫描并标注的数据集,并未公开,而Llama3-V展现出了一模一样的清华简识别能力,连做错的样例都一样。

斯坦福 Llama3-V 团队的两位作者 Siddharth Sharma 和 Aksh Garg 在社交平台 X 上对面壁 MiniCPM 团队就这一学术不端行为进行了正式道歉,并承诺将撤下所有 Llama3-V 模型。

Image

马斯克计划为 xAI 购买约30万块 AI 芯片

马斯克近日表示,xAI 的下一项重大举措可能是在明年夏天购买约 30 万块配备 CX8 网络的 B200 芯片。

马斯克表示,xAI 计划通过加大对 GPU 集群的投资,大幅扩展其 AI 相关的产品组合。根据今年 3 月英伟达 CEO 黄仁勋透露的消息,B200 GPU 的售价区间可能会在 3 万至 4 万美元。假定 xAI 能够谈妥黄仁勋所说的最低价格,xAI 将花费至少 90 亿美元来购买约 30 万个 B200 GPU。

Image

昆仑万维开源2千亿稀疏大模型天工MoE

昆仑万维宣布开源 2 千亿稀疏大模型 Skywork-MoE , 性能强劲, 同时推理成本更低。

Skywork-MoE 基于之前昆仑万维开源的 Skywork-13B 模型中间 checkpoint 扩展而来,是首个完整将 MoE Upcycling 技术应用并落地的开源千亿 MoE大模型,也是首个支持用单台 4090 服务器推理的开源千亿 MoE大模型。

Image

美国约有7%人口每天使用 ChatGPT

据 GlobalData 最新报告显示,有 7% 的美国公民表示他们每天使用 ChatGPT。

一项研究调查了生成式人工智能在英国、美国、法国、日本等国家共 1 万多人的使用情况。日本只有 1% 的人每天使用 ChatGPT,法国和英国为 2%,美国为 7%。在调查的国家中,平均 27% 的受访者表示他们在个人生活中至少使用过一次生成式人工智能,21% 的受访者回答说他们在学校或工作中使用过它。

Image

亚马逊推出“Project PI”计划,利用 AI 检测商品完整度

据 The Verge 报道,亚马逊近日公布一项名为 Project PI 的 AI 计划,旨在帮助用户在商品发送前确定其损坏程度及外观。

其工作原理是,产品在送往客户的途中会经过一个扫描通道。计算机视觉程序是一种人工智能,它能观察图像并理解图像中的内容,检查是否有损坏。如果发现问题,该产品就会被隔离,同时系统会对缺陷进行评估,并确定类似产品是否存在问题,从而找出根本原因。

Image

首个面向气象导航的全球气象大模型,复旦大学发布“伏羲”2.0

据复旦大学官方消息,复旦大学和上海科学智能研究院昨日联合举办走进智能气象主题活动暨智能气象创新生态联盟成立仪式。成立仪式上,伏羲系列气象大模型 2.0发布,以伏羲2.0 为核心的智能气象创新生态联盟成立。

相较于去年推出的 1.0 系列,伏羲2.0 的中期天气预报大模型和次季节大模型,面向新能源、航空运输等行业取得进展。伏羲2.0面向气象导航对伏羲大模型进行优化,提高时空分辨率,实现未来 15 天 0.1 度逐小时气象预测。

模型可构建海气耦合模型,纳入风浪、涌浪、海温等要素,提升全球风、浪、流、能见度等预测精度,模型可进行极端天气优化,提升台风、极端降水等更多灾害性场景的预测精度。

Image

Adobe 因销售知名摄影师风格头像而遭斥责

据 the verge 报道,知名摄影师 Ansel Adams 的遗产继承人公开斥责 Adobe 公司出售已故摄影师作品的AI仿制品。

上周五,Adams 的遗产继承人在 Threads 上发布了一张截图,显示 Adobe Stock 上提供的人工智能生成的图片被标注为 Ansel Adams 风格",并告诉 Adobe,"这种行为已经正式触动了我们的神经"。

虽然 Adobe 允许在其图片库平台上托管和销售人工智能生成的图片,但要求用户对其上传的内容拥有相应的权利或所有权。Adobe Stock 的 "贡献者条款 "明确禁止 "使用包含其他艺术家姓名的提示语创建内容,或使用旨在复制其他艺术家的提示语创建内容"。

Image

微软发布大规模大气基础模型Aurora,用AI预测全球极端天气

微软近日发布了首个大规模大气基础模型 Aurora,这一模型利用人工智能技术,能够预测全球范围内的极端天气事件。

与当前数值预报系统相比,Aurora 的计算速度提高了约5000倍,拥有超高的准确率和效率。这一模型的发布标志着天气预测领域迎来了重大突破。

Aurora 不仅可以预测全球范围内的极端天气事件,还具备快速预测大气化学和空气污染的能力。通过对大量不同数据的预训练和对特定任务的微调,Aurora 学会了捕捉大气中错综复杂的模式和结构,使其在针对特定任务进行微调时,即使训练数据有限也能表现出色。

Image

新加坡计划建设量子计算和数据中心,推动人工智能发展

新加坡政府最近发布了一项旨在推动人工智能技术发展的计划,重点包括推出大型语言模型(LLM)测试的国际标准,以及投资量子计算和数据中心建设。

新加坡政府计划通过国家量子战略,加上近3亿新加坡元的投资,应对这些挑战。该计划的重点包括量子研究、量子通信与安全、量子处理器等方面的举措,以及设立奖学金计划培养100名博士和100名硕士研究生。

Image

今日重点论文:

Meta:

《The Road Less Scheduled》

论文旨在解决不需要指定优化停止步骤T的学习率调度方法无法与依赖于T的学习率调度方法相比的问题。论文提出了一种无需使用调度方法的方法,同时在一系列问题上展现出与调度方法相当的性能,包括凸问题和大规模深度学习问题。该方法没有额外的超参数,是动量标准优化器的直接结果。该方法是作者们提出的一个新理论的直接结果,该理论统一了调度和迭代平均。

论文地址:

https://arxiv.org/abs/2405.15682v2

洛桑联邦理工学院

《Is In-Context Learning Sufficient for Instruction Following in LLMs?》

本论文旨在探讨使用In-context learning (ICL)技术对长文本语言模型进行对齐的效果,并与Fine-tuning方法进行比较,以提高指令跟随性能。本文提出了一种贪心选择方法来选择ICL示例,以提高对齐性能。同时,通过消融实验,探讨了ICL技术在指令调整设置中的局限性。论文地址:

https://arxiv.org/abs/2405.19874v1

亚利桑那州立大学

《Explainable Human-AI Interaction: A Planning Perspective》

如何让人类和AI系统之间实现协同工作?如何让AI系统向人类解释其决策过程?利用人类的心理模型,让AI系统能够理解人类的期望并进行解释沟通,以实现更好的协同工作。论文提出了一种基于心理模型的解释沟通框架,能够使AI系统更好地与人类协同工作。实验使用了多个数据集进行验证,同时还提供了开源代码。值得深入研究的是如何在更加复杂的场景中应用该框架。

论文地址:

https://arxiv.org/abs/2405.15804v1

阿姆斯特丹大学

《Mechanistic Interpretability for AI Safety -- A Review》

通过反向工程神经网络的计算机制和表示,将其转化为人类可理解的算法和概念,提供细粒度、因果性的理解,以实现机械性可解释性。

论文介绍了神经网络中特征编码知识的概念和假设,评估了机械性可解释性对于AI安全的相关性,探讨了可扩展性、自动化和全面性解释的挑战。文章呼吁明确概念、制定标准,并扩展到视觉和强化学习等领域。

论文地址:

https://arxiv.org/abs/2404.14082v1

Image