GenAI新世界

7月22日 AI 头条|OpenAI 正与博通谈判,或启动7万亿美元 AI 芯片计划

Image
划重点:
  • OpenAI 正与博通谈判,或启动7万亿美元 AI 芯片计划
  • WPS 被指泄露用户文档用于AI训练 官方予以否认
  • Google 或将与雷朋厂商开发 Gemini 智能眼镜
  • 科大国创发布星云大模型 2.0
  • Hugging Face 推出SmolLM小语言 Python 编程模型
  • elevenlabs 发布文本转语音 Turbo 2.5 AI 模型
  • 苹果开源小模型 DCLM-Baseline-7
  • 问小白获得3200万美元种子轮融资
  • 小米大模型小爱同学更新:支持图片背景转换、路人消除等功能
资讯详情:
OpenAI 正与博通谈判,或启动7万亿美元 AI 芯片计划
据 The Information 报道, OpenAI 已经与博通进行了会谈,讨论开发新人工智能芯片的计划。
据悉,OpenAI 目前正在探索制造自己的人工智能芯片的可能性。此举不仅能有效整合软件和硬件,还有助于缓解当前人工智能芯片短缺的问题。此外,据说 OpenAI 正在积极招募前谷歌员工,希望利用他们在开发 Tensor 处理器方面的经验和专业知识来制造自己的 AI 芯片。报道强调,OpenAI 开发出能与英伟达相媲美的 AI 服务器芯片的可能性很小,需要多年的研发才能取得显著成果。
此前,业内人士指出,OpenAI CEO Sam Altman制定了雄心勃勃的人工智能芯片发展计划,旨在筹集 7 万亿美元资金,改造全球半导体产业生态系统,推动通用人工智能产业的发展。   
Image
WPS 被指泄露用户文档用于AI训练 官方予以否认
金山 WPS 客户服务近日针对使用用户文档训练 AI 传闻进行回应,称相关问题完全失实。
此前有消息称,多位用户在微博和小红书等平台反馈,他们发现尚未发布的文档内容已被豆包AI掌握。其中包括番茄小说平台的签约作者,他们表示自己在本地编写的未发布书籍更新内容竟然被豆包AI准确引用,这引发了他们对数据泄露的担忧。
金山WPS官方通过微博发布声明予以否认。   
Image
Google 或将与雷朋厂商开发 Gemini 智能眼镜
据 The Verge 报道,Google 目前正在与开发了雷朋智能眼镜的 EssilorLuxottica 接触,计划携手开发 Gemini 智能眼镜。
此前,Meta 已与该公司合作开发了两代雷朋智能眼镜。另外,有多家媒体报道,Meta 计划斥资数十亿美元收购 EssilorLuxottica 约 5% 的股份。   
Image
科大国创发布星云大模型 2.0
据科大国创官方消息,在 7 月 20 日举办的 2024 年合肥市人工智能生态大会上,正式发布星云大模型 2.0。
官方表示,此次发布的星云大模型 2.0 在机器人编程、运营商、电力、交通等行业领域相关应用功能进行全面升级。   
Image
Hugging Face 推出SmolLM小语言 Python 编程模型
据 Hugging Face 官方消息,Hugging Face 近日推出一系列 SmolLM小模型,包含多个不同参数的模型。
SmolLM系列模型采用原创 SmolLM-Corpus 的数据集训练。该数据集主要包含 Python 教学内容 Python-Edu、Web 教育内容 FineWeb-Edu 以及使用 Mixtral-8x7B-Instruct-v0.1 和 Cosmopedia v2 两款模型生成的常识内容,token 量总计 6000 亿。此后 Hugging Face 团队便使用 SmolLM-Corpus 数据集训练了“SmolLM”小语言模型。
SmolLM系列模型拥有1.35 亿、3.6 亿及 17 亿参数模型,主要用于利用Python 语言编写代码。   
Image
elevenlabs 发布文本转语音 Turbo 2.5 AI 模型
elevenlabs 近日宣布,发布文本转语音模型Turbo 2.5版本,其多种语言的生成速度大幅提高。
elevenlabs 表示,这将为全球近 80% 的地区带来高质量、低延迟的人工智能对话。据悉,新版本让印地语、法语、西班牙语、普通话等27种语言的生成速度提高了3倍。而英语的生成速度也提高了25%。此外该版本还首次支持越南语、匈牙利语和挪威语。   
Image
苹果开源小模型 DCLM-Baseline-7
据 Venturebeat 报道,苹果公司的研究团队在 Hugging Face 上发布了一系列开放的 DCLM 模型。
该系列包括两个主要模型:一个有 70 亿个参数,另一个有 14 亿个参数。这两个模型在基准测试中的表现都相当不错,尤其是较大的那个模型--其性能超过了 Mistral-7B,并正在接近其他领先的开放模型,包括 Llama 3 和 Gemma。   
Image
问小白获得3200万美元种子轮融资
据 AI大模型工场报道,北京元石科技有限公司,获得了3200万美金种子轮融资,投资方包括经纬、红点、快手联合创始人宿华。
元石科技开发的一款AI机器人问答产品问小白APP目前产品已经上线App Store。目前元石科技团’队人数在50人上下,核心团队成员多位来自中科院语音、语言、视觉模型领域等。
Image
小米大模型小爱同学更新:支持图片背景转换、路人消除等功能    
据小米官方消息,大模型小爱同学 AI 助手新增AI 图片编辑功能,支持图片背景转换、风格转换、路人消除等共五项功能。
更新之后的小爱同学新增转换图片背景、转换动漫风格、路人消除、智能扩图、图片问答五项功能,用户可以在更新后通过语音对话界面上传图片,并对图片进行修改。
除此之外,小爱同学还新增AI文档问答功能,可智摘文档及总结追问,上传文档即可快速提炼及询问文档内容信息。   
Image
今日重点论文:
基因泰克:
《Understanding Reinforcement Learning-Based Fine-Tuning of Diffusion Models: A Tutorial and Review》    
本论文旨在探讨如何使用强化学习算法fine-tuning扩展扩散模型,以优化下游的奖励函数,实现生成最大化某些度量的样本。论文提出了基于强化学习算法的fine-tuning方法,包括PPO、可微优化、reward-weighted MLE、value-weighted sampling和path consistency learning等,用于优化扩散模型以生成最大化某些度量的样本。
论文地址:
https://arxiv.org/abs/2407.13734v1
洛桑联邦理工学院:
《Trackastra: Transformer-based cell tracking for live-cell microscopy》
该论文旨在解决细胞跟踪问题,即在活细胞显微镜中跟踪细胞的位置和轨迹。这是一个具有挑战性的问题,因为每一帧图像中都有数百个相似的细胞,它们可以分裂,使得跟踪变得更加困难。该论文提出了一种名为Trackastra的基于transformer的细胞跟踪方法,直接从注释数据中学习细胞之间的配对关系,避免了繁琐的离散优化方法和复杂的关联步骤。该方法还考虑到细胞的分裂,可以使用简单的贪心链接实现精确跟踪,同时避免了处理密集图像的计算负担。
论文地址:
https://arxiv.org/abs/2405.15700v1
华为:
《DiJiang: Efficient Large Language Models through Compact Kernelization》
DiJiang是一种基于频域核技术的方法,通过离散余弦变换(DCT)操作实现核化,从而将预训练的Transformer转换为具有线性复杂度的模型。该方法使用加权的准蒙特卡罗方法进行采样,理论上可以提供更高的逼近效率。本文的方法可以将预训练的Transformer转换为具有线性复杂度的模型,并且可以在减少训练成本的情况下实现。实验结果表明,DiJiang方法可以在各种基准测试中实现与原始Transformer相当的性能,但训练成本和推理速度都得到了显着提高。作者还提供了代码。   
论文地址:
https://arxiv.org/abs/2403.19928v2
爱尔兰伊玛克特教育学院:
《Large Models of What? Mistaking Engineering Achievements for Human Linguistic Agency》
该论文试图解决对大型语言模型(LLMs)的语言能力的夸大和误导性的声明,这些声明基于至少两个无根据的假设。论文从行动主义的角度出发,认为语言不是一个完整的事物,而是一种行动方式,具有体现、参与和不稳定性等特征,这些特征在当前的LLMs中是缺失的,因此LLMs不能像人类一样成为语言代理。
论文地址:
https://arxiv.org/abs/2407.08790v1    
Image