ReaderMX.
GenAI新世界

5月27日 AI 头条 | 谷歌承认 AI Overview 功能存在幻觉问题

G大模型机动组约 6 分钟
Image
划重点：
  • 谷歌承认 AI Overview功能存在幻觉问题
  • 苹果或已与 OpenAI 达成协议，将为iOS 18 增加 AI功能
  • xAI 宣布完成一轮融资，金额达60亿美元
  • 马斯克或将为 xAI 推出超极算力工厂，使用数万块芯片训练
  • Stability AI 推出文生图聊天机器人 Stable Assistant
  • Meta 或将推出收费版 AI 助手
  • OpenAI策略研究员 Gretchen Krueger 宣布离职
  • 支付宝发布全新智能车机系统“领航”，让车机接入AI大模型
  • 苹果将为 Safari 浏览器增加AI 功能
资讯详情：
谷歌承认 AI 摘要功能存在幻觉问题
据 The Verge 报道，谷歌 CEO 皮查伊承认，最新推出的 AI 摘要功能产生的幻觉问题是大语言模型的固有缺陷，该问题目前尚无解决方案。
此前有用户发现，谷歌的AI 摘要功能会给出一些过时甚至有害的回答。据皮查伊表示，AI 摘要功能有时会出错，但这并不意味着它没有用处。皮查伊认为，和去年相比，谷歌在事实准确性方面的指标上取得了很大进步。整个行业都在改进，但问题还没有完全解决。
Image
苹果或已与 OpenAI 达成协议，将为iOS 18 增加 AI功能
据 9to5Mac 报道，苹果或已与 OpenAI 达成协议，为今年的 iOS 18 系统提供一系列生成式 AI 功能。
据悉，苹果将会在 iOS 18 中加入一系列的 AI 功能，比如图片修改、撰写邮件、生成表情符号、于 Siri 自然交互等等。苹果预计将采取多管齐下的方法，其中一些人工智能请求将在设备上本地处理，而另一些请求将被踢到苹果公司的云基础设施上进行处理。
Image
xAI 宣布完成一轮融资，金额达60亿美元
xAI 今天宣布，已完成价值60亿美元的 B轮融资，主要投资者包括 Valor Equity Partners、Vy Capital、Andreessen Horowitz、红杉资本、富达管理与研究公司、Prince Alwaleed Bin Talal 和 Kingdom Holding 等。
xAI 表示， 在过去一年里公司取得了长足进步。从2023年7月宣布成立公司，到11月在X平台上发布Grok-1，再到最近宣布改进Grok-1.5模型的长上下文能力，以及Grok-1.5V的图像理解能力，xAI的模型能力得到了快速提升。随着 Grok-1 的开源发布，xAI 为各种应用、优化和扩展模型的进步打开了大门。
Image
马斯克或将为 xAI 推出超极算力工厂，使用数万块芯片训练
据 The Information 报道，马斯克近日表示，他计划建造一台超级计算机，为其下一版人工智能聊天机器人Grok提供动力。
马斯克表示，他计划使用10万块专用芯片来训练、运行下一代聊天机器人 Grok，马斯克拟将这些专用芯片串联到一台巨型的超级计算机中，并称其为算力超级工厂。
Image
Stability AI 推出文生图聊天机器人 Stable Assistant
据 Statbility AI 官方消息，旗下文生图聊天机器人 Stable Assistant 现已开始测试，将会在不久后开放。
Stable Assistant搭载 Stable Diffusion3和 Stable LM212B等多款文生图模型，可根据用户需求生成不同图片。Stable Assistant 具备出色的多主题提示、图像质量和拼写能力它擅长根据对话提示生成图像、提供知识性回答、帮助写作项目，并用匹配的图像增强内容。
Image
Meta 或将推出收费版 AI 助手
据 The information 报道，Meta 计划推出一个收费版本的 AI 助手，拥有多更高级功能。
不过目前 Meta 还没有确认付费版本的订阅价格和相关功能，该付费助手目前还处于计划阶段，尚未正式确定。
除此之外，Meta 还可能在不久后推出一款用于编码的人工智能工具。
Image
OpenAI策略研究员 Gretchen Krueger 宣布离职
OpenAI 策略研究员Gretchen Krueger 近日宣布从 OpenAI 离职，并在个人社交媒体上向OpenAI 的管理制度发出警告。
据 Krueger 表示，OpenAI 在管理上存在很多问题，不管是问责制度、透明度、政策执行和文档管理都需要改进。同事OpenAI 需要采取措施减轻技术对社会不平等、权利和环境的影响。
Image
支付宝发布全新智能车机系统“领航”，让车机接入AI大模型
支付宝近期宣布，正式推出全新智能车机产品“领航”。
该产品是蚂蚁百灵大模型在车载场景的首次应用，可通过AI技术自主理解语意、识别并执行用户意图、完成交易闭环，首期为车主提供生活、出行、健康等3大类资讯和服务。同时，领航也集合了车载支付方案、车载小程序方案等，实现从“人找服务”到“服务找人”，成为车主的座舱助理。支付宝方面表示，目前该产品已面向行业试点开放，未来将联合车企，为用户打造更智能的座舱体验。
Image
苹果将为 Safari 浏览器增加AI 功能
据 Appleinsider 报道，苹果正在测试全新版本的 Safari 功能，并将在其中增加一系列的 AI 功能。
据悉，苹果将会为新版本的 Safari 浏览器带来全新的用户界面和一系列新功能，包括网页橡皮擦和内容摘要等等。新UI中包含全新的页面控制菜单，该菜单整合了新旧页面控制工具并提供快速访问，其中包括浏览器的新 "智能搜索 "功能。一旦启用，该工具将利用苹果设备上的人工智能技术（特别是 Ajax 语言学习模型）来识别网页中的主题和关键短语，并以此为基础进行总结。
此外，还可以在新页面控制菜单中找到一项名为“网页橡皮擦”的功能，苹果正在对其进行测试。据熟悉该功能的人士透露，正如其名，它可以让用户移除或擦除网页的特定部分。
Image
今日重点论文：
AIRI：
《Your Transformer is Secretly Linear》
本文旨在揭示transformer解码器中一种新的线性特征，并探究其对模型性能的影响。该研究挑战了现有对transformer架构的理解。本文揭示了transformer解码器中一种线性特征，并提出了一种基于余弦相似度的正则化方法，用于减少模型的线性程度，从而提高性能。本文发现transformer解码器中存在一种线性特征，并提出了一种正则化方法，该方法在Tiny Stories和SuperGLUE等基准测试中提高了性能。作者还展示了移除或近似一些最线性的transformer块对模型性能的影响不大。该研究为transformer架构的理解带来了新的挑战。
论文地址：
https://arxiv.org/abs/2405.12250v1
北京航空航天大学
《MoRA: High-Rank Updating for Parameter-Efficient Fine-Tuning》
论文分析LoRA的低秩更新机制对LLMs有效学习和记忆新知识的影响，提出一种新的高秩更新方法MoRA。MoRA使用方形矩阵实现高秩更新，同时保持可训练参数数量不变，通过引入相应的非参数算子来降低输入维度和增加输出维度，确保权重可以合并回LLMs中论文地址：
https://arxiv.org/abs/2405.12130v1
麻省理工学院
《Applied Causal Inference Powered by ML and AIt》
本论文旨在介绍机器学习和因果推断的融合，以及如何使用现代预测工具在结构方程模型(SEMs)和结构因果模型(SCMs)中进行推断。论文提出了双重/去偏机器学习方法，以在这些模型中进行推断。这种方法可以有效地处理因果关系和预测问题，同时避免了传统方法中的偏差。本论文介绍了结构方程模型(SEMs)和结构因果模型(SCMs)的概念，并介绍了现代预测工具如何应用于这些模型中。实验使用了多个数据集进行验证，并开源了代码。这种方法可以在处理因果关系和预测问题时都具有很好的性能。论文地址：
https://arxiv.org/abs/2403.02467v1
加州大学伯克利分校
《Poisson Variational Autoencoder》
本文旨在开发一种新的架构Poisson VAE（P-VAE），结合预测编码原理和VAE，将输入编码为离散的脉冲计数，以更好地模拟生物神经元的离散特性。同时，通过分析学习表示的几何形状，比较P-VAE与其他VAE模型之间的区别，探索感知作为推理过程的更深层次理解。本文提出了一种新的架构P-VAE，将VAE中的连续潜变量替换为Poisson分布的离散潜变量，同时引入预测编码原理，提高了模型分类任务的效率和准确性。
论文地址：
https://arxiv.org/abs/2405.14473v1
Image

KEEP THE THREAD GOING

更多来源文章