让罗胖一口气“说”八国语言? D-iD 上线新功能“视频翻译” 从音色到口型完美对上
如果我们面对镜头用中文说一段话,就能在两分钟内产生十段视频,里面的语言分别是英语、法语、韩语、日语、阿拉伯语等等,听起来语调都跟你一模一样,连口型都对得上,放在一年前,我一定觉得是妄想。但是当我看到D-iD公司最新推出的视频翻译功能时,被这个功能最后呈现的效果震惊了。
当我看完他们的演示视频,生怕这些视频都是特意选出来的,所以我就找同事,要了几条罗胖在《文明》节目上线前录的短视频,试用了一下视频翻译功能。然后我就看到屏幕上的罗胖在一分钟内,自由地在英语、法语、日语、阿拉伯语和葡萄牙语中流利切换,连口型都对得上。我怕他们随便用一些我听不懂的鸟语糊弄我,还特意掏出手机打开实时翻译软件,发现连语义都基本吻合。
大家可以看看下面这条短视频的效果。不过有个纰漏,就是里面把阿拉伯语和法语搞反了。毕竟听不懂……
我先给大家介绍一下D-iD这家公司,他们的名字就很奇怪,一个大写的英文字母D,然后一个短横线,再接一个小写字母i和大写字母D。这其实是一个很长单词的简写,那个单词的含义是“去识别化”。
D-iD 官网截图(https://www.d-id.com/)
啥意思呢?这家公司成立于2017年,是在以色列的特拉维夫,成立时的主张是要用技术手段来保护人们的隐私,通过改变面部图像的某些特征,避免他们的照片或者视频,在未经允许的情况下被用于人脸识别。
这个理念在当时受到了一些好评,但后续相关报道较少。但是,从那时起,他们就在面部识别的技术上,花了大力气。2020年,他们发布了一个演示视频,将一张老照片变成动画,创建一个肖像动图,因此再次收获了业界的关注。直到2021年,美国有一个产品MyHeritage用他们的技术,做了一个深度怀旧风格的老照片动画产品。
那时的D-iD就已经不再经常提起他们的初始想法了,而是推出了一个AI视频制作平台。当时已经可以做一些口型的同步了,只不过效果还非常差。
但是上个星期,他们推了视频翻译功能,效果就非常惊艳了。这个名字也起得挺好,以前的翻译都是翻译一段话、一个文档,现在可以直接用AI翻译一整段视频了。
目前这个功能,他们是免费提供给自己的订阅用户使用,非订阅用户会有十几个免费积分,可以用于测试和体验。在语言方面,一共有30多种语言可以选择,我看了一下,基本上常见语言都已经涵盖了,除了有中日韩外,连瑞典语、保加利亚语、斯洛伐克语这种小语种都包括在内。我作为免费用户,一次只能把一段视频生成三种语言,不知道尊贵的VIP用户,能不能一次生成30种语言。
我之前在广播站里,介绍过另一个华人团队做的AI视频营销工具Heygen,跟今天介绍的这个产品有点类似,不过在一些细节和最终的效果上,D-iD要比现在的Heygen强一些。不过我相信,D-iD的新功能,也会刺激竞争对手优化自己的产品效果。
产品使用场景:
有些同学可能无法想象这个功能的使用场景,我简单地介绍一下。假如,你现在卖一款充电宝,既有国内市场,又有海外市场。以往,如果录一个产品介绍或者营销视频,基本上要先找一个国内团队录中文版,再找一个英语团队录英语版,其他语种就心有余而力不足了。
但是现在,你只需要上传一段录好的中文版视频,AI就会帮你自动翻译成更加本地化的语言,并且用的还是你的音色,口型都对得上。这能帮很多做出海业务的产品,提高效率。除了产品营销之外,其实还包括内容创作。
我之所以关注这一领域,是因为国内一位媒体集团的高管曾问过我,有没有这样的产品,能够将他们制作的众多新闻和文化视频,同步转换为多国语言版本,以此扩大影响范围。对于一些内容创作者来说,如果能够在不增加成本和精力的情况下,增加几种语言版本,或许能产生意想不到的效果。想到这里,不禁让我想起罗胖的《文明》节目,如果能够变成多语言版本,不知道会不会有啥效果。
注意事项:
如果你对这个产品感兴趣,可以上传一小段视频来体验。不过有些前车之鉴需要提醒你:上传的视频应控制在五分钟以内,且说话的人必须正对镜头,手指不要在脸前乱晃。另外,我尝试了十几种语言,唯独韩语总是失败,只能生成8秒钟的视频,可能是遇到了某个不明原因的bug。
为什么不要手指乱晃呢?因为 AI 需要识别嘴型,然后根据语言做出改变,所以如果你在最前面乱晃的话,有可能嘴型就对不上了。
这看起来是AI 视频技术没有解决的一个问题,但是在这个鱼龙混杂的时候,说不定可以作为判断是不是真人跟你视频聊天的一个方法,例如你让对面的“生物”,一边在面前晃手指,你看看TA 的口型还对不对的上。
产品官网地址:https://www.d-id.com/
产品后台界面:
除了视频翻译,他们还同步上线了一个“数字人”功能,不过我还没有尝试。未来我体验一下,如果用的好,再跟大家推荐。