GenAI新世界

OpenAI 宣布寻找数据合作伙伴,为模型训练提供数据

Image

大模型资讯

OpenAI 宣布寻找数据合作伙伴,为模型训练提供数据
OpenAI 官方宣布,正在引入数据合作伙伴关系。OpenAI 希望通过与各个组织合作,由他们为训练人工智能模型提供公共或私有数据集。
据 OpenAI 表示,为了让生成式 AI 变得更加安全,OpenAI 希望 AI模型能够深入理解所有的主题、行业、文化和语言,而要想实现这个目的,离不开尽可能多地训练数据集。OpenAI 表示,他们希望可以收集到任何形式的数据,包括文本、图像以及音视频内容。
OpenAI 表示,如有必要,它将与组织合作,结合使用光学字符识别和自动语音识别工具,对训练数据进行数字化,并在必要时删除敏感或个人信息。
Image
文心一言用户规模已达 7000 万、场景 4300 个
据百度CTO 王海峰表示,文心一言用户规模现已达到 7000 万,场景 4300 个,应用2492款。
此外王海峰在2023 年世界互联网大会乌镇峰会上披露,飞桨和文心生态已凝聚 800 万开发者,服务 22 万家企事业单位,创建了 80 万个模型。
Image
 发布可穿戴 AI 设备 AI Pin,售价699美元起
据 The Verge 报道,人工智能设备初创公司 Humane 现已正式发布其首款智能硬件设备 Ai Pin。
Ai Pin 由一个电池组和智能终端组成,其电池组可以通过磁力设备吸附在衣物或者物体表面。而其终端配备骁龙处理器内置摄像头、麦克风和一个小型投影仪。用户可以通过语音对智能终端进行操控,其画面可以通过投影仪投放到任何固体表面。而其摄像头可以拍摄1300万像素的图片,日后还将会增加视频拍摄功能。Ai Pin 可以作为人工智能助手为用户提供多种服务,其 AI 能力获得了 OpenAI、微软、谷歌、Slack 和 Tidal 等公司的协助。
Ai Pin 设备售价699美元,此外用户需要每月支付24美元的订阅费用。
Image
GitHub Copilot Enterprise 计划明年2月上线,帮助企业创建专用 AI 助手
据 GitHub 官方消息,微软将会在明年2月份推出 GitHub Copilot Enterprise,帮助各个企业创建专用的代码助手。
据悉,GitHub Copilot Enterprise 更强调商用功能,配备额外的 GitHub Copilot Customization 功能,允许企业整合自家训练的代码模型,从而创建专用代码助手。
该服务预计会在2024年2月上线,订阅价格为39 美元每月。
AMD 宣布将在12月7日举办 AI 特别活动
AMD 今天宣布,将会在北京时间12月7日凌晨2点举办 AI 特别活动,目前活动内容尚未公布。
据 AMD 表示,此次特别活动将会介绍 AMD 及其合作伙伴是如何助力 AI 发展的。有消息称,AMD 将会在此次特别活动发布针对 AI 技术研发的硬件产品。
Image

重点论文

微软推出 FP8 混合精度训练框架,内存成本降低 50%
微软研究团队近日发表论文,宣布推出一款FP8 混合精度训练框架,用于节约大模型计算成本。

研究团队表示,当前大模型训练需要付出高额框架,而如果采用FP8 低精度训练大模型,可以将速度提高 2 倍、内存成本降低 50% 至 75%,并且可节省通信成本。微软表示,目前只有 Nvidia Transformer Engine 兼容 FP8 框架,主要利用这种精度进行 GEMM(通用矩阵乘法)计算,同时以 FP16 或 FP32 高精度保持主权重和梯度。

微软表示,FP8 低精度训练框架现已开源。

论文地址:

https://arxiv.org/pdf/2310.18313.pdf

Image