许久没有公布新产品的 OpenAI 今天凌晨OpenAI 在官网一口气公布了多项更新。除了之前就已经发布的GPT-4 Turbo和 GPT-3.5 Turbo模型更新之外，还带来了两款全新的 embedding model（后文翻译为嵌入模型）。同时，OpenAI 还解决了此前用户反映的模型变懒的问题。
鉴于大型语言模型在处理长文本输入时的限制，检索增强生成（Retrieval Augmented Generation，简称RAG）已成为一种广泛应用于大型模型的技术。在RAG中，检索环节扮演着至关重要的角色，而基于向量相似度的检索技术是该领域的关键。向量检索的精确性取决于模型将文本转换为embedding（嵌入）向量的能力。这也是OpenAI此次发布的模型要解决的问题。这次OpenAI 一共发布了两款embedding model，一款体积更大，性能更强，而另一款体积较小，但有着更高的工作效率。
除此之外，OpenAI 还在此次更新中带来了全新的GPT-3.5 Turbo模型定价，并加入了新的安全审查模型，帮助开发者识别有危害的内容。另外，OpenAI 还表示将会在未来几个月内持续更新GPT-4 Turbo预览版，包括具备视觉功能的版本。
我们正在发布新的模型、降低GPT-3.5 Turbo的价格，并引入新的方法供开发者管理API密钥和理解API使用情况。新模型包括：默认情况下，发送到OpenAI API的数据将不会被用于训练或改善OpenAI模型。我们正在引入两个新的嵌入模型：一个体积小且效率高的 text-embedding-3-small模型，和一个更大更强大的text-embedding-3-large模型。“嵌入”是一连串的数字，这些数字可以代表自然语言或代码内容中的概念。嵌入让机器学习模型和其他算法可以更容易理解内容之间的关系，执行如聚类或检索等任务。它们支持像ChatGPT和Assistants API中的知识检索，以及许多检索增强型生成（RAG）开发工具的应用。text-embedding-3-small是我们新的高效嵌入模型，与其前代模型text-embedding-ada-002（2022年12月发布）相比，它有着显著的升级。- 更强的性能。在多语言检索（MIRACL）常用基准测试中，text-embedding-ada-002与text-embedding-3-small的平均得分从31.4%提高到了44.0%，而在英语任务（MTEB）常用基准测试中，得分从61.0%提高到了62.3%。- 更低的价格。text-embedding-3-small比我们之前的一代模型text-embedding-ada-002更高效。而text-embedding-3-small的价格比text-embedding-ada-002降低了5倍，每1k token 从$0.0001降低到$0.00002。我们不会淘汰text-embedding-ada-002，虽然我们推荐新模型，客户仍然可以继续使用前代模型。text-embedding-3-large是我们新的下一代大型嵌入模型，能创建多达3072维度的嵌入。- 更强的性能。text-embedding-3-large是我们性能最好的模型。在MIRACL上，与text-embedding-ada-002相比，平均得分从31.4%提高到了54.9%，而在MTEB上，平均得分从61.0%提高到了64.6%。- text-embedding-3-large的价格是每1k token $0.00013。您可以在我们的嵌入指南中了解更多关于使用新嵌入模型的信息。使用较大的嵌入通常比使用较小的嵌入更昂贵，消耗更多的计算、内存和存储资源。，例如将它们存储在向量存储中以便检索。我们的两个新嵌入模型均是采用同一种技术训练的，将允许开发者在使用嵌入时权衡性能和成本。具体来说，开发者可以通过在dimensions API参数中传递来缩短嵌入（即从序列的末尾移除一些数字），这不会失去其代表概念的属性。例如，在MTEB基准测试上，一个text-embedding-3-large嵌入可以缩短到256的大小，而其表现仍优于大小为1536的，未缩短的text-embedding-ada-002嵌入。这让用户可以非常灵活的使用嵌入。例如，当使用一个只支持最长1024维度的向量数据存储时，开发者现在仍然可以使用我们最好的嵌入模型text-embedding-3-large，并为dimensions API参数指定一个值为1024，这将把嵌入从3072维度缩短，以交换较小的向量大小。下周我们将推出新的GPT-3.5 Turbo模型，gpt-3.5-turbo-0125，并降低GPT-3.5 Turbo的价格，以帮助我们的客户扩展规模。新模型的输入价格降低了50%，至每1000个 token 价格为$0.0005，输出价格降低了25%，每1000个 token 价格为 $0.0015。该模型还包括各种改进，包括在请求的格式中响应的准确性更高，以及修复了导致非英语语言函数调用文本编码问题的bug。使用固定的gpt-3.5-turbo模型别名的客户将在该模型发布两周后自动从gpt-3.5-turbo-0613升级到gpt-3.5-turbo-0125。自GPT-4 Turbo发布以来，超过70%的GPT-4 API客户已经转移到GPT-4 Turbo。开发者可以利用其新的知识截止日期、更大的128k上下文窗口和更低的价格。今天，我们发布更新的GPT-4 Turbo预览模型，gpt-4-0125-preview。与之前的预览模型相比，这个模型可以更彻底地完成代码生成之类的任务，并减少模型未完成任务的“懒惰”情况。新模型还包括修复影响非英语UTF-8生成的bug。希望自动升级到新GPT-4 Turbo预览版本的用户，可以关注新推出的gpt-4-turbo-preview模型预览，它将始终指向我们最新的GPT-4 Turbo预览模型。我们还计划在未来几个月内推出具备视觉功能的GPT-4 Turbo。免费的审核API允许开发者识别可能有害的文本。作为我们持续的安全工作的一部分，我们正在发布text-moderation-007，我们迄今为止最健壮的审核模型。您可以通过我们的安全最佳实践指南了解更多关于构建安全AI系统的信息。我们还将推出两项平台改进，为开发者提供更多的使用情况可见性和对API密钥的控制。首先，开发人员现在可以从 API 密钥页面为 API 密钥分配权限。用户可以为某个密钥分配只读访问权限，以便为内部跟踪提供动力，或者限制其只能访问某些端点。其次，在打开跟踪功能后，使用情况仪表板和使用情况导出功能现在可以显示 API 密钥级别的指标。这样，只需为每个功能、团队、产品或项目设置单独的 API 密钥，就能轻松查看每个功能、团队、产品或项目的使用情况。在未来几个月中，我们还计划进一步提高开发人员查看其 API 使用情况和管理 API 密钥的能力。
大模型机动组约 5 分钟