GenAI新世界

5月28日 AI 头条 | 马斯克为xAI 招聘员工,遭杨立昆嘲讽

Image
划重点:
  •  马斯克为xAI 招聘员工,遭杨立昆嘲讽

  • 微软发布论文,证明 Phi-3-vision 能力与Gemini 1.0 Pro等不相上下
  • 苹果或将在 WWDC 2024期间公布以 Project Greymatter 为核心的 AI 改革
  • 软银将向 AI 项目投资90亿美元,加速转型
  • 昆仑万维宣布天工 AI 每日活跃用户超过 100 万
  • 苹果发布降噪大模型DLM,纠正ASR系统中的错误
  • 小度推出全球首款百度文心大模型学习机
  • 前 OpenAI 董事指责 CEO Sam Altman 培养虚假文化
资讯详情:
马斯克为xAI 招聘员工,遭杨立昆嘲讽
据 Bussiness Insider 报道,Meta 公司的首席人工智能科学家 Yann LeCun 在 X 平台上嘲笑马斯克试图为 xAI 招聘人工智能员工。
当地时间周一,马斯克发文为xAI 招聘AI 科学家,并表示“如果你相信我们理解宇宙的使命,请加入 xAI,这需要最大限度地严格追求真理,而不考虑受欢迎程度或政治正确性。”。而一直和马斯克不对付的杨立昆很快评论了马斯克的帖子。杨立昆在评论中写道“如果你能忍受这样的老板,那就加入 xAI 吧: 
声称你正在研究的问题将在明年得到解决(没有压力)。
声称你正在研究的东西会害死所有人,必须停止或暂停(耶,6 个月的假期!)。
声称要'最大限度地严格追求真理',却在自己的社交平台上大肆宣扬疯狂的阴谋论"。”
杨立昆指的是马斯克在 4 月份声称人工通用智能将在明年到来,他在上周加倍证实了这一预测,并估计人工智能有 10-20% 的可能性毁灭人类。
Image
微软发布论文,证明 Phi-3-vision 能力与Gemini 1.0 Pro等不相上下
据 Arxiv 页面显示,微软发布 Phi-3-vision 基准测试论文,表示该 SLM 和 Claude 3-haiku、Gemini 1.0 Pro 等其他模型不相上下。
微软在论文中对比了 ScienceQA、MathVista 和 ChartQA 等模型,Phi-3-vision 的参数虽然不多,但性能非常优秀。Phi-3-vision 是一款多模态小型语言模型(SLM),主要用于本地 AI 场景,该模型参数量为 42 亿,上下文长度为 128k token,能够为常规视觉推理任务和其他任务提供支持。
Image
苹果或将在 WWDC 2024期间公布以 Project Greymatter 为核心的 AI 改革
据 Mark Gurman 表示,苹果公司将于 6 月 10 日召开年度 WWDC 2024 大会,届时苹果公司推出创新的人工智能计划 Project Greymatter。
据悉,Project Greymatter 预计将把大模型生成技术集成到 Safari、Photos 和 Notes 等核心应用程序中。除了应用程序的改进,这些AI功能还将把它们的功能扩展到操作系统中,有可能彻底改变通知的管理方式。这些AI 功能预计将在即将发布的 iOS 18 和 macOS 15 更新中实现。
Image
软银将向 AI 项目投资90亿美元,加速转型
据AI sultana 报道,软银计划向 AI 项目投资约90亿美元,加速其企业转型。
据软银首席财务官后藤善光表示,如果有合适的巨额交易,公司愿意保持甚至超过这一投资水平,并强调了保持稳健的资产负债表以抓住出现的机遇的重要性。
Image
昆仑万维宣布天工 AI 每日活跃用户超过 100 万
昆仑万维近日宣布,天工 AI 每日活跃用户已超过 100 万。这一成就标志着昆仑万维在 AI 领域的深耕细作得到了市场的广泛认可,同时也验证了天工大模型在实际应用中的强大能力。
昆仑万维表示,自 2023 年 4 月 17 日天工大模型推出以来,昆仑万维秉持All in AGI 与 AIGC战略,在大模型技术研发与应用落地层面齐头并进,逐步构建了 AI 大模型、AI 搜索、AI 音乐、AI 视频、AI 社交、AI 游戏等多元 AI 业务矩阵,并于 2023 年 8 月推出了国内第一款 AI 搜索产品天工 AI 搜索,开创国内 AI 搜索产业先河。
Image
苹果发布降噪大模型DLM,纠正ASR系统中的错误
 Analytics indiamag报道,苹果公司近日推出降噪语音模型 DLM,这是一种使用大量合成数据训练的按比例纠错模型实现了 SOTA 自动语音识别 (ASR) 性能。
单个 DLM 可应用于不同的 ASR,其性能大大优于传统的基于 LM 的波束搜索重排。这些结果表明,设计良好的纠错模型有可能取代传统的 LM,从而将 ASR 系统的准确性提高到一个新的水平。
纠错模型面临的一个重大挑战是需要大量有监督的训练示例,而典型的 ASR 数据集中的训练示例数量有限。DLM 通过使用 TTS 系统生成合成音频来解决这一问题,然后将合成音频输入 ASR 系统,创建与原始文本配对的假设,形成训练数据集。这种方法允许使用更大的语言语料库来扩展训练数据。
Image
小度推出全球首款百度文心大模型学习机
百度昨天举办发布会,推出全球首款百度文心大模型学习机——小度学习机 Z30。
这款学习机可以逼真还原课文情景,支持 AI 师生互动课,自带课后个性化练习服务,同时支持量身定制个性化学习计划,实现全科全学段随时答疑。小度学习机 Z30 采用了 14 英寸 2880x1800 分辨率 90Hz 柔光类纸屏,裸机774g,厚 7.91mm,配备了 10000mAh 电池,支持 33W 有线充电。目前小度学习机 Z30推出了8GB RAM + 256GB 存储空间版本,售价 6694 元。
Image
前 OpenAI 董事指责 CEO Sam Altman 培养虚假文化
据财经学人报道,OpenAI 的两位前董事会成员Helen Toner 和 Tasha McCauley 公开指责 Sam Altman,认为其在 OpenAI 内部培养了一种虚假文化。
两位前董事指出 Altman 削弱了董事会对关键决策和安全规定的监督,许多高管告诉董事会,他们非常担心 Altman 正在创造 一种虚假文化,并参与 可以被描述为心理虐待的行为。Toner 和 McCauley 认为,OpenAI 无法自我监管,这一观点源自非营利性和营利性结构的混合。
Toner 和 McCauley 表示,自我监管的尝试并没有奏效。监管者现在需要更多介入市场。
Image
今日重点论文:
弗吉尼亚大学:
《SimPO: Simple Preference Optimization with a Reference-Free Reward》
SimPO试图解决离线偏好优化算法中存在的计算和内存效率问题,同时提高算法的性能。SimPO的关键思路是使用序列的平均对数概率作为隐式奖励,从而更好地与模型生成相一致,并消除了参考模型的需求,使其更加高效。
论文地址:
https://arxiv.org/abs/2405.14734v1
麻省理工学院
《Applied Causal Inference Powered by ML and AIt》
本论文旨在介绍机器学习和因果推断的融合,以及如何使用现代预测工具在结构方程模型(SEMs)和结构因果模型(SCMs)中进行推断。论文提出了双重/去偏机器学习方法,以在这些模型中进行推断。
这种方法可以有效地处理因果关系和预测问题,同时避免了传统方法中的偏差。本论文介绍了结构方程模型(SEMs)和结构因果模型(SCMs)的概念,并介绍了现代预测工具如何应用于这些模型中。实验使用了多个数据集进行验证,并开源了代码。这种方法可以在处理因果关系和预测问题时都具有很好的性能。
论文地址:
https://arxiv.org/abs/2403.02467v1
华盛顿大学
《Look Once to Hear: Target Speech Hearing with Noisy Examples》
论文旨在解决在嘈杂环境中识别目标说话人的问题,而不受干扰的影响。通过一个新的智能听觉系统,利用少量嘈杂的语音样本进行说话人的注册,并实现在嘈杂环境中提取目标说话人的语音。论文提出的智能听觉系统可以在不到5秒的时间内使用少量嘈杂的样本进行说话人注册,并在嘈杂环境中提取目标说话人的语音,取得了7.01 dB的信号质量提升。实验结果表明该系统可以泛化到室内和室外多径环境下的静态和移动说话人。论文提供了开源代码和数据集。
论文地址:
https://arxiv.org/abs/2405.06289v2
微软
《MoRA: High-Rank Updating for Parameter-Efficient Fine-Tuning》
分析LoRA的低秩更新机制对LLMs有效学习和记忆新知识的影响,提出一种新的高秩更新方法MoRAMoRA使用方形矩阵实现高秩更新,同时保持可训练参数数量不变,通过引入相应的非参数算子来降低输入维度和增加输出维度,确保权重可以合并回LLMs中。
论文地址:
https://arxiv.org/pdf/2405.12130v1
Image