站在风口的生成式AI，离真正起飞还有多远？
品玩GenAI约 11 分钟作者｜张珺玥
邮箱｜[email protected]
生成式AI的落地之困：如何打破基础模型和开发者之间的“墙”？
亚马逊云科技，创建生成式AI普惠新范式
Amazon Bedrock服务：搭建生成式AI开发的“快速通道”
但基础模型有了之后，还有一个棘手的问题没有解决——如何使用这些模型进行个性化的应用开发？云平台还要进一步解决私有数据学习、系统集成和调试以及任务自动执行的问题。
最新的Amazon Bedrock Agents服务能够在基础模型的基础上，把对话的定义、模型外部信息获取和解析、API调用、任务执行等打包成为一个全托管式的服务，从而能够及时、有针对性的输出结果。
如此一来，开发者不必重巨资从头开发自己的基础模型，也不要花费大量的时间和人力去进行模型的个性化部署和调试，从而能让开发者把更多的精力放在AI应用的构建和运营上，让不具备雄厚资金和技术实力的中小型开发者都可以加入到生成式AI浪潮中来。
“向量数据+硬件算力”双护航，铸造应用开发的最强大脑+最强底座
进行模型的定制开发，除了需要如Amazon Bedrock这样的专业托管服务，也需要计算、存储、安全等其他相关能力，来保证模型的持续可用、和迭代升级。
毋庸置疑，数据是人工智能出现和发展的基底。生成式AI为了学习和理解人类语言的复杂性，需要大量的训练数据，而这些训练数据通常是以“向量”的形式存在，也就是把自然语言转化为计算机可以理解和处理的数字。
那么，什么是向量数据，为什么它对生成式AI的发展至关重要呢？
假设你正在使用一个音乐推荐软件，我们可以把每首歌分别按照节奏、歌词、旋律等三个特征进行量化标记，比如第一首歌是（120，60，80），第二首歌是（100，80，70），当你告诉系统你喜欢第一首歌的节奏时，系统便会找到这首歌的节奏向量数据“120”，在数据库中查找与这个向量相似的其他向量，接着再把有相似特征的歌曲推荐给你。
当然，不止是三维，一个数据还可以被标注成更多纬度。在自然语言处理中，使用词嵌入技术表示的“词向量”通常是几百维的，而在图像处理中，使用像素值表示的图像向量可能有数千到数百万的维度。被“向量化”之后的数据将被存储在向量数据库之中，在高维空间中去高效地检索和生成最相关或最相似的数据。
然而，要将数据进行向量化处理和储存并不是一件容易的事，往往要耗费大量的人力和时间。针对这一问题，亚马逊云科技此次推出了适用于 Amazon OpenSearch Serverless 的向量引擎，该向量引擎能够支持简单的 API 调用，可用于存储和查询数十亿个 Embeddings（将高维度的数据映射到低维度空间的过程）。亚马逊云科技还表示，未来所有亚马逊云科技的数据库都将具有向量功能，在AI数据层面成为开发者的“最强大脑”。
图片来自亚马逊云科技纽约峰会
除了向量引擎的支持，在算力层面，亚马逊云科技也一直致力于构建低成本、低延迟的云上基础设施。
亚马逊云科技和英伟达合作已超过12年，为人工智能、机器学习、图形、游戏和高性能计算等各种应用提供了大规模、低成本的 GPU 解决方案，在交付基于 GPU 的实例方面拥有无比丰富的经验。此次，亚马逊云科技展示了最新基于英伟达 H100 Tensor Core GPU 提供支持的P5实例，能够实现更低的延迟和高效的横向扩展性能。
P5 实例将是第一个利用亚马逊云科技第二代 Amazon Elastic Fabric Adapter（EFA）网络技术的 GPU 实例。与上一代相比，P5实例的训练时间最多可缩短6倍，从几天缩短到几小时，这一性能提升将帮助客户降低高达40%的训练成本。借助第二代 Amazon EFA，用户能够将其 P5 实例扩展到超过 2 万个英伟达 H100 GPU，为包括初创公司、大企业在内的所有规模客户提供所需的超级计算能力。
降低生成式AI门槛，用产品最大化赋能用户
除了面向生成式AI开发的工具和平台之外，在企业的日常运营之中需要一些能够拿来即用的生成式AI产品，来帮助提升工作和管理效率。关于这一点，亚马逊云科技也陆续推出了一些在工作场景中直接可以使用的产品，这些产品既覆盖底层开发人员也关注到了企业中大量的非技术人员。
比如在代码开发领域，自从亚马逊云科技在去年6月首次推出AI编程助手Amazon CodeWhisperer之后，现在该功能已经成为了很多开发者日常必备工具之一。
Amazon CodeWhisperer基于几十亿行开源代码训练，可以根据代码注释和现有代码实时生成代码建议，另外还能进行安全漏洞扫描。目前支持包括 Python、Java 和 JavaScript 15 种编程语言和包括 VS Code、IntelliJ IDEA、JupyterLab 和 Amazon SageMaker Studio等集成开发环境。
为了进一步提高开发效率，在纽约峰会上，亚马逊云科技正式宣布 Amazon Glue Studio Notebooks 也能支持 Amazon CodeWhisperer。通过 Amazon Glue Studio Notebooks，开发人员可以用自然语言编写特定任务，接着Amazon CodeWhisperer 可以直接在 Notebooks 中推荐一个或多个可完成此任务的代码片段，供开发人员直接使用和编辑。
Amazon CodeWhisperer支持语言和环境，图片来自亚马逊云科技官网
而对于非开发类工作场景，通过将 Amazon Bedrock的大语言模型能力与支持自然语言问答的 Amazon QuickSight Q 相结合，为用户提供了基于生成式AI的商业智能新服务。
比如你是一个财务分析师，你可以像跟ChatGPT聊天一样用自然语言下达命令，在几秒钟内Amazon QuickSight Q就能完成搜索关键财务信息或创建公司财务可视化图表的操作，同时还能帮你总结出趋势特点并提出建议。
类似拿来即用的产品还有帮助企业打破内部信息孤岛、加快数据驱动决策的Amazon Entity Resolution，以及能够帮助医疗软件供应商便捷地构建基于生成式AI的临床应用程序的Amazon HealthScribe等等，在各行各业扩大着生成式AI产品的使用场景。
释放AI时代的“云力量”
生成式AI的发展需要云，更需要大量基于云的工具和服务。
大模型之后，下一阶段生成式AI技术一定会朝着多样性和个性化方向发展，我们既可以看到比较通用的生产力工具，也会看到各种瞄准特定场景的AI产品。而在这个过程中，云平台会起到越来越关键的作用。
一方面，云平台会大大降低AI应用开发的门槛。在平台的算力和基础模型支持下，开发者们基本无需关心硬件和基础设施的问题，从而把更多的时间和精力放在业务和运营上。另一方面，云平台能够持续加快AI应用的开发和运营效率。用户可以通过直接调用API的方式进行应用的开发和管理，并安全、便捷地在团队或组织之间共享。
在云平台的助力之下，未来的生成式AI将不再只是一场巨头才能玩的“烧钱游戏”，更多普通人也将可以坐上牌桌。
作为云服务领域的行业领导者之一，亚马逊云科技提供了200多种服务，涵盖了计算、存储、数据库、网络、开发者工具、安全、分析、物联网、企业应用等广泛领域，云基础设施覆盖全球。同时，亚马逊云科技还是人工智能和机器学习领域的领先者，多年来持续提供和更新着一系列端到端的AI相关服务，让开发者可以灵活、便捷、低成本的开发和部署生成式AI应用。
此次，亚马逊云科技发布生成式AI工具“全家桶”，其核心目的就是要进一步降低生成式AI开发的门槛，让更多不懂大模型、不懂人工智能的普通人也能快速加入生成式AI的开发和应用之中。
生成式AI的重要性不在于模型有多大能力有多强，更重要的还是如何能够从基础模型演变成各个领域中的具体应用，从而赋能整个经济社会的发展。
现在，亚马逊云科技正在成为那个桥梁。
点击“阅读原文”，查看亚马逊云科技的生成式AI完整云服务方案。
注：封面图来自于Pexels，版权属于原作者。如果不同意使用，请尽快联系我们，我们会立即删除。