OpenAI 宣布寻找数据合作伙伴,为模型训练提供数据OpenAI 官方宣布,正在引入数据合作伙伴关系。OpenAI 希望通过与各个组织合作,由他们为训练人工智能模型提供公共或私有数据集。据 OpenAI 表示,为了让生成式 AI 变得更加安全,OpenAI 希望 AI模型能够深入理解所有的主题、行业、文化和语言,而要想实现这个目的,离不开尽可能多地训练数据集。OpenAI 表示,他们希望可以收集到任何形式的数据,包括文本、图像以及音视频内容。OpenAI 表示,如有必要,它将与组织合作,结合使用光学字符识别和自动语音识别工具,对训练数据进行数字化,并在必要时删除敏感或个人信息。
文心一言用户规模已达 7000 万、场景 4300 个据百度CTO 王海峰表示,文心一言用户规模现已达到 7000 万,场景 4300 个,应用2492款。此外王海峰在2023 年世界互联网大会乌镇峰会上披露,飞桨和文心生态已凝聚 800 万开发者,服务 22 万家企事业单位,创建了 80 万个模型。
发布可穿戴 AI 设备 AI Pin,售价699美元起据 The Verge 报道,人工智能设备初创公司 Humane 现已正式发布其首款智能硬件设备 Ai Pin。Ai Pin 由一个电池组和智能终端组成,其电池组可以通过磁力设备吸附在衣物或者物体表面。而其终端配备骁龙处理器内置摄像头、麦克风和一个小型投影仪。用户可以通过语音对智能终端进行操控,其画面可以通过投影仪投放到任何固体表面。而其摄像头可以拍摄1300万像素的图片,日后还将会增加视频拍摄功能。Ai Pin 可以作为人工智能助手为用户提供多种服务,其 AI 能力获得了 OpenAI、微软、谷歌、Slack 和 Tidal 等公司的协助。Ai Pin 设备售价699美元,此外用户需要每月支付24美元的订阅费用。
GitHub Copilot Enterprise 计划明年2月上线,帮助企业创建专用 AI 助手据 GitHub 官方消息,微软将会在明年2月份推出 GitHub Copilot Enterprise,帮助各个企业创建专用的代码助手。据悉,GitHub Copilot Enterprise 更强调商用功能,配备额外的 GitHub Copilot Customization 功能,允许企业整合自家训练的代码模型,从而创建专用代码助手。该服务预计会在2024年2月上线,订阅价格为39 美元每月。AMD 今天宣布,将会在北京时间12月7日凌晨2点举办 AI 特别活动,目前活动内容尚未公布。据 AMD 表示,此次特别活动将会介绍 AMD 及其合作伙伴是如何助力 AI 发展的。有消息称,AMD 将会在此次特别活动发布针对 AI 技术研发的硬件产品。
微软推出 FP8 混合精度训练框架,内存成本降低 50%
微软研究团队近日发表论文,宣布推出一款FP8 混合精度训练框架,用于节约大模型计算成本。研究团队表示,当前大模型训练需要付出高额框架,而如果采用FP8 低精度训练大模型,可以将速度提高 2 倍、内存成本降低 50% 至 75%,并且可节省通信成本。微软表示,目前只有 Nvidia Transformer Engine 兼容 FP8 框架,主要利用这种精度进行 GEMM(通用矩阵乘法)计算,同时以 FP16 或 FP32 高精度保持主权重和梯度。
论文地址:
https://arxiv.org/pdf/2310.18313.pdf