样貌、声线被盗用！霍启刚：每天都要投诉反馈，实在是困扰
广州广播电视台约 4 分钟他在文中表示：刚刚过去的周末，又发现很多盗用我形象的AI视频，他们提取了我的声线、利用我的样貌生成短视频，但是里面的内容完全不是我的观点，连我同事都说看了一段时间才发现原来是AI生成的，这样的信息实在是误导观众。甚至曾经还有些短视频账号利用我之前发表的关于描述香港情况的内容，进行二次剪辑制作，用来宣传香港移民渠道这类的内容，我很担心有人因此上当受骗导致钱财损失。
霍启刚表示，过去半年随着AI技术的普及，这类情况越来越夸张，至今已经处理了几千条相关的假内容，还要安排同事专职跟进，每天都要投诉反馈，但是每天依然有非常大量类似的新发布，实在是很让人困扰。
在评论区
不少网友直言：
“真真假假太难分辨了”
多位演员曾被“AI换脸”
出现在直播间、短剧里
去年11月5日，央视新闻法治在线报道，演员温峥嵘自曝刷到AI假冒自己的直播间，上前质问竟立马被拉黑。温峥嵘说，“我现在就很难证明我是我。”（此前报道：“很难证明我是我”……知名演员自曝成受害者！）
据报道，当时有多个直播间同时出现 “温峥嵘” 的影像，但这些均非她本人出镜。此类内容要么是AI合成的虚假直播，要么是盗播、录播的过往片段。
温峥嵘团队工作人员称，早前团队就对这种不法AI合成的商家发了律师函，“其实这些产品我们根本就没有推荐过，也没有卖过。”温峥嵘坦言，粉丝会觉得信任自己去下单，这些直播间通过AI的手段混淆了大家的视听。
另有网友在社交平台反映，自己观看的多部短剧里，部分演员的面部形象与演员肖战高度相似；其中名为《京华风云》的短剧，不仅演员面容酷似肖战，就连剧中服装造型，也与肖战在其主演的电视剧《藏海传》中的扮相高度重合。
目前，在平台已搜索不到这个短剧。
《京华风云》截图
部分平台已经开始限制
2月12日，豆包旗下视频生成模型Seedance2.0全端上线后，执行严格限制：禁止生成明星、公众人物、网红等真实人物肖像/视频/语音。
关于AI换脸
民法典已有规定
网信办开展专项整治！
据央视新闻此前报道，明星、名人形象合成的视频，充斥在各类短视频平台和社交媒体，有的涉嫌侵权，有的甚至被用来带货，作为传播平台，该负怎样的责任呢？民法典规定，网络用户利用网络服务实施侵权行为的，权利人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施，这就是“避风港原则”。在这一原则下，平台只需要按“通知—删除”的原则进行事后补救。专家认为，在海量AI生成内容涌现的当下，这一原则显然已经需要改进。
其实，民法典中已有规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。其中，“应当知道”四个字，意味着平台要承担起更多的注意义务，专家认为，面对AI侵权视频，网络平台应该从事后删除的被动应对，转向事前识别和审核的主动治理。
目前，各大传播平台已普遍采用一定的过滤和拦截技术，防止侵权视频的传播。在专家看来，相比传播平台，作为内容提供者的AI视频生成平台，在侵权违法内容的审查中，理应承担更高的责任。2023年8月开始施行的《生成式人工智能服务管理暂行办法》中就明确，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。
AI的不断升级，也需要监管的发力。早前，国家网信办表示，针对发布AI生成信息时不添加标识、传播虚假不实内容等问题，已开展专项整治，已处置账号1.3万余个，清理违法违规信息54.3万条，典型案例中，就包含了AI换脸假冒运动员、售卖AI生成的公众人物“送祝福”视频等情形。
来源：当事人社交账号、中国青年报、广州广播电视台此前报道、网友评论
编辑：朱玥