ReaderMX.
GenAI新世界

5月29日 AI 头条 | OpenAI 成立监督委员会评估 AI 安全，并已开始训练新的 AI 模型

G大模型机动组约 6 分钟
Image
划重点：
  • OpenAI 成立监督委员会评估 AI 安全，并已开始训练新的 AI 模型
  • 苹果 WWDC2024 定档6月11日凌晨1点
  • 百度文心大模型 5.0 或将在 2025 年发布
  • 微软、亚马逊、IBM 承诺公布 AI 模型的安全措施
  • 商汤日日新大模型5.0粤语版发布
  • Chromebook Plus 笔记本迎来谷歌 Gemini 加持
  • Replicate 被曝存在跨租户攻击安全隔离漏洞
  • Aira 宣布与谷歌合作，为Opera 浏览器融入Gemini模型
  • 腾讯推甲骨文AI协同殷契文渊2.0 可自动识别甲骨文
资讯详情：
OpenAI 成立监督委员会评估 AI 安全，并已开始训练新的 AI 模型
据 techxplore 报道，OpenAI 宣布成立全新安全团队，并已开始训练一个新的人工智能模型。
据悉，OpenAI 在解散其对齐团队之后，又成立了一个董事会委员会，用来评估其人工智能模型的安全性。该委员会将就其项目和运营的 "关键安全和安保决策 "向董事会全体成员提供建议。OpenAI 表示，他们最近已开始训练下一个前沿模型，其人工智能模型在能力和安全性方面处于行业领先地位，但并未提及这一争议。
Image
苹果 WWDC2024 定档6月11日凌晨1点
苹果宣布，苹果WWDC2024全球开发者大会将于北京时间6月11日至15日在线举行。
苹果公布了开发者大会详细日程，包括主题演讲和Platforms State of the Union。其中主题演讲将会在6月11日凌晨1点举行，届时苹果将公布于今年晚些时候登陆Apple各大平台的开创性更新。而在凌晨4点举办的Platforms State of the Union将深度介绍iOS、iPadOS、macOS、tvOS、visionOS和watchOS的最新进展。
Image
百度文心大模型 5.0 或将在 2025 年发布
据新浪科技报道，百度或将于 2025 年百度世界大会期间发布新一代文心大模型 5.0。
目前，文心大模型最新版本为 4.0 版本，该版本于 2023 年举办的百度世界大会上由百度创始人李彦宏发布，具备理解、生成、逻辑和记忆四大核心能力。
Image
微软、亚马逊、IBM 承诺公布 AI 模型的安全措施
微软、亚马逊和 IBM 等领先科技公司近日承诺，在开发基础模型时公布他们所采取的安全措施。
这一承诺适用于基础或 “前沿” 模型，即可以应用于广泛应用领域的 AI 模型，通常是能够处理图像、文本和其他输入的多模态系统。签署这一承诺的公司包括 Meta、三星、Claude 开发商 Anthropic 以及埃隆・马斯克的初创企业 xAI 等。
Image
商汤日日新大模型5.0粤语版发布
商汤科技宣布，全新日日新大模型5.0粤语版现已正式发布，面向公众开放。
日日新大模型5.0粤语版以30港元的价格提供1M tokens（输入与输出均同价）的优质服务，而且支持最大128K窗口，确保用户在使用过程中获得流畅、高效的体验。
该版本还将推出网页版和App版两个端口供公众使用。
Image
Chromebook Plus 笔记本迎来谷歌 Gemini 加持
谷歌官方消息，将把 Gemini 人工智能以及该公司其他设备上的 AI 功能引入 Chromebook Plus 笔记本电脑。
功能更新之后，Chromebook Plus 笔记本电脑都将支持谷歌的“帮助我写作”等新功能，以及使用生成式 AI 创建自定义壁纸的功能。谷歌相册的魔法编辑器（Magic Editor）也将在 Chromebook Plus 上可用，该功能此前已登陆部分老款安卓设备。
Image
Replicate 被曝存在跨租户攻击安全隔离漏洞
据安全公司 Wiz 最新报告显示， AI 模型共享平台 Replicate 存在重大漏洞，可被黑空用来进行跨租户攻击。
Replicate 平台出现“跨租户攻击”漏洞的主要原因是该平台为提升 AI 模型推论（inference）效率推出的模型容器化格式 Cog，虽然相关格式能够显著改善模型与效率，不过 Replicate 平台忽略了 Cog 格式中的安全隔离机制。
Image
Aira 宣布与谷歌合作，为Opera 浏览器融入Gemini模型
据 The Verge 报道，Aria 近日宣布与谷歌合作，为 Opera 浏览器增加对谷歌 Gemini模型的支持。
此次合作也将推动Aria在图像生成和语音输出方面的进一步发展。借助Google Cloud的支持，Aria可以免费生成Vertex AI上的Imagen2模型的图像，同时利用Google的文本转音频模型，实现对话式的语音输出，为用户带来更丰富、更沉浸式的体验。
Image
腾讯推甲骨文AI协同殷契文渊2.0 可自动识别甲骨文
据腾讯官方消息，腾讯宣布推出甲骨文AI协同平台“殷契文渊2.0”。
该平台提供甲骨文的数据采集、存储、计算能力，并通过AI技术助力甲骨文破译。平台具备甲骨文自动识别、AI摹本生成等辅助工具，方便古文字处理和使用。据悉，在殷契文渊2.0中，用户可以上传一个甲骨文字符，如“百”字，并快速检索其被识别的情况。平台还提供了服务于研究者的辅助工具，如AI摹本生成。用户可以批量上传甲骨拓片，平台会自动将拓片生成摹本，极大方便了古文字的处理和使用。
Image
今日重点论文：
伦敦国王学院：
《"The Death of Wikipedia?" -- Exploring the Impact of ChatGPT on Wikipedia Engagement》
探讨ChatGPT对Wikipedia的影响，特别是在页面浏览量、独立访客数量、编辑次数和编辑者数量等方面。通过对12种语言版本的Wikipedia进行对比和面板回归模型，论文发现ChatGPT的推出并没有导致Wikipedia的参与度下降，反而在ChatGPT推出后期页面浏览量和独立访客数量有所增加。同时，研究还发现在ChatGPT可用的语言版本中增长较慢，这可能是因为ChatGPT的可用性限制了这些语言版本的增长。
论文地址：
https://arxiv.org/abs/2405.10205v2
俄亥俄州立大学
《Grokked Transformers are Implicit Reasoners: A Mechanistic Journey to the Edge of Generalization》
论文旨在探究transformers是否能够学习隐含的参数知识推理技能。研究的重点在于两种代表性的推理类型：组合和比较。这是否是一个新问题？论文通过深入的训练发现，transformers可以学习隐含的推理能力，但仅限于通过长时间训练来理解，即“理解”。推理类型的泛化水平也因推理类型而异。当面临超出分布的例子时，transformers在组合方面无法系统地泛化，但在比较方面则成功。通过分析实验，揭示了“理解”背后的机制，以及系统性和推理电路配置之间的联系。论文的发现指导数据和训练设置，以更好地诱导隐含推理，并提出了transformer架构的潜在改进。
论文地址：
https://arxiv.org/abs/2405.15071v2
上海期智研究院
《Humanoid-Gym: Reinforcement Learning for Humanoid Robot with Zero-Shot Sim2Real Transfer》
Humanoid-Gym论文旨在解决使用强化学习训练人形机器人在仿真环境中的动作技能，并实现从仿真到真实世界的零-shot迁移的问题。Humanoid-Gym框架基于Nvidia Isaac Gym，结合sim-to-sim框架和Mujoco，使用强化学习训练人形机器人的动作技能，并实现从仿真到真实世界的零-shot迁移。
论文地址：
https://arxiv.org/abs/2404.05695v2
马里兰大学
《Surveilling the Masses with Wi-Fi-Based Positioning Systems》
本论文旨在揭示苹果公司的Wi-Fi定位系统存在的隐私威胁，探讨攻击者如何利用该系统在全球范围内进行定位攻击，并提出相应的解决方案。本论文的关键思路是利用苹果公司的Wi-Fi定位系统中的BSSID信息，通过收集全球范围内的Wi-Fi接入点的位置信息，实现对设备位置的追踪，并提出相应的解决方案，以保障用户的隐私安全。
论文地址：
https://arxiv.org/abs/2405.14975v1
Image

KEEP THE THREAD GOING

更多来源文章