七牛云

七牛云「GIDC·2024」| AIGC 视频和应用智能化与AI 边缘算力下沉

Image

近日,GIDC2024 互联网数据大会在上海盛大开幕。本次大会以「大算力·新节能」为主题,聚焦 AI 时代下的数据中心产业变革。七牛云作为大会科技生态伙伴应邀参加。同时,七牛云副总裁宿度从「AIGC 视频、应用与云」、「GenAI 大中小模型的选择」和「AIGC 推理与算力下沉」等几个层面,为 IDC 行业的与会嘉宾和从业者带来了主题为《AIGC 视频和应用智能化与AI 边缘算力下沉》的精彩分享。

Image

宿度首先介绍了七牛云的发展历程和相关业务,分享了七牛云多年来在一站式场景化智能音视频 APaaS 平台方面积累的丰富技术实践。

七牛云以云存储起步,并迅速发展出 MPaaS 一站式多媒体平台,涵盖音视频处理、分发服务等。从 2017 年开始布局 AI,利用 AI 能力为多媒体行业提供媒体增值服务,与国内大多数企业一样,最初主要围绕在决策式 AI 方向输出智能识别、鉴别类的 AI 服务能力;以 MPaaS 和 AI 能力为基础,七牛云进一步构建了 APaaS,并深入覆盖到具体业务场景,为客户提供一站式音视频应用服务;近 2 年来,七牛云也在积极拥抱生成式 AI 浪潮,加大投入在 AIGC 视频解决方案、加快推进业务全球化发展。

七牛云 MPaaS 以 Kodo 对象存储、QCDN 分发、Dora 媒体处理、Miku 互动直播等四大主要产品为基础,主要针对开发能力强、需求灵活的客户群体,通过 API 和 SDK 向客户提供服务。而 APaaS 则是基于 MPaaS 能力和低代码平台能力的场景化音视频解决方案,集合了视频增强、智能审核、AI 混剪、3D 生成、语音、视觉、AIGC 数字人等技术能力,覆盖社交媒体、视频营销、视联网、智慧新媒体、元宇宙五大场景。通过 MPaaS + APaaS 双轮驱动策略,七牛云以多媒体基础服务为支撑,通过低代码和智能化应用平台能力,实现场景化覆盖,从而赋能千行百业。

Image

AIGC 视频和 AI 原生应用智能化与云

2022 年 10 月以来 ChatGPT 引领着对话和文本生成的生成式 AI 浪潮;随后,图片、视频生成技术也相继取得了突破。继生成文字、生成图片后,生成视频成为新的 AIGC 热点,从 2023 年生成几秒、十来秒视频小短片,到 2024 年初采用 Diffusion Transformer 架构的 Sora 取得生成分钟级长度、且具备高度人物和场景一致性视频的突破,使更多人相信 2024 年是 AIGC 视频生成的元年。

在生成式 AI(GenAI)技术浪潮的推动下,内容创作的主体正在发生变迁,从个人用户到专业机构,再到 AIGC 时代的智能机器人;生成式 AI 技术提升了内容创作的速度和质量,将极大增加网络空间上音视频内容丰富度和多样性。

AI 原生应用的快速发展,对云计算提出了新的关键需求要素。开发者构建应用时,首先是对模型的需求,可以用大型模型,但也可以使用微调过的小模型以降低成本,及采用多专家混合模型(MoE)提升性价比;第二个要素是数据,云服务能够管理全量的训练语料、调优数据和用户数据,同时确保数据的安全性;最后一个关键要素是算力,能够快速、方便、按需的获得算力资源,满足训练和推理需求。

Image

算力资源是影响 AIGC 发展的核心要素。从训练、微调到推理,AI 平台能力影响着 AIGC 和 AI 应用的开发和效率。从筛选、标注、存储到训练,从采集到保护,数据处理综合能力也是关键。在面向不同业务场景落地 AIGC 视频和 AI 原生应用时,开发者需要考虑三个基本要素:算力、数据和适合场景特点的模型;而在选择大、中、小模型方面,成本、质量和推理速度也是最重要的权衡取舍因素;从 AIGC 市场结构划分看,云厂商是基础设施、模型及算力服务的重要参与者,通常由云服务提供商来提供相应的能力选项,开发者需要做出业务判断。

AIGC 推理与边缘算力下沉

在云计算和生成式 AI 技术飞速发展的今天,根据海外厂商观测,对推理算力的需求正增长成为算力需求中的主要部分,而算力下沉将成为推动行业发展的关键因素。宿度介绍了七牛云在边缘计算方面的布局,在生成式 AI、AIGC 热点方向上,七牛云积极探索围绕 GPU 推理加速的边缘 AI 算力云服务,并结合音视频 RTC 和互动直播场景特点,将 GenAI 技术广泛应用在多语言翻译、语音生成、视频生成、数字人互动等泛音视频智能化场景。

通过在边缘节点部署 AI 推理设备和边缘计算平台,实现对视频内容的实时处理和智能分析。通过以边缘计算支撑 AI 推理算力需求,可以降低计算延迟、提高系统的响应速度,同时相比于在云端数据中心堆算力来提升每秒 token 数,在边缘交付算力更具性价比,并且能更好地保护用户数据安全。

Image

展望未来,如何拥抱 AIGC 时代浪潮?宿度表示,七牛云将主要围绕两个层面推进落实。一是围绕 AIGC 和音视频场景优势,积极投入增强与之相关的能力,输出自己的模型服务和场景化解决方案;二是围绕 AI 推理需求和边缘云优势,增强边缘算力输出规模。同时,七牛云也将与各类优秀合作伙伴携手,共同为用户构建更加完善的 AI 解决方案,赋能企业客户数字化、智能化转型需要,提升内容生产的深度和广度,满足 AIGC 时代用户多样化的需求。

Image