全红婵卖鸡蛋？不少人下单！又是这个套路……
广州广播电视台约 4 分钟给大家送福利......”
看到这样的消息
你会信吗？
近日
社交平台上出现了不少AI生成的视频
全红婵的“爸爸”“哥哥”
出镜边“讲述”边带货
甚至全红婵“本人”也卖起了土鸡蛋
还有不少人被骗下单
究竟是谁在冒充奥运冠军的家人？
AI仿冒诈骗
还有多少受害者？
“AI仿冒”全红婵家人带货
文案雷同
据悉，此前在接受媒体采访时，全红婵妈妈曾表示，自己的愿望是在村里盖一个房子，让孩子们回来能有房间住。
关于全红婵家建造新房消息是否属实，记者求证了广东湛江市麻章区政府相关部门及自称承建新房方，截至发稿，尚未得到明确回应。
然而，在社交平台上已经出现多个账号使用AI合成的全红婵爸爸、哥哥声音，用完全相同的文案介绍家里要盖新房，给大家送福利，以此来博取流量。
在AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较好的仿冒作品评论区中，不乏有人被骗下单购买。
据封面新闻今日报道，全红婵父亲辟谣，表示这些AI合成的视频，均为伪造。
换脸、换声音
多名公众人物陷入“AI漩涡”
利用AI伪造视频的现象
并不罕见
此前，曾有多位明星
成为AI伪造视频的素材
今年3月，有线上游戏平台利用AI技术，将演员古天乐、林峯的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。这些AI合成的视频显示，演员讲代言台词的声线和口音听得出均刻意模仿本人，整体画面制作颇为粗糙，艺人讲台词的嘴形僵硬不自然，AI合成痕迹十分明显。
3月5日，相关演员经纪公司先后发布声明，指出该宣传片为合成影片，否认其与有关游戏平台合作或代言、推广它们的业务，提醒各方人士不要轻信，以免上当受骗。
（此前报道：古天乐、林峯“卷入”涉赌代言？）
老年用户分辨不出
多人被骗钱
记者了解到
近年来
全国发生了多起通过“AI换声、换脸”
实施诈骗的案件
有不法分子通过“AI换声”
仿冒老人的孙子
以“打人须赔偿，否则要坐牢”为由
诈骗老人2万元
（此前报道：警惕！有人“偷脸”10分钟骗走430万，速转“家族群”）
中国科学院自动化研究所模式识别实验室工程师牛少东说，随着算法越来越先进，在高性能设备和高精度模型的加持下，AI生成的语音内容从两年前的“一眼假”升级到如今的“真假难辨”。
网友评论
多举措强化治理
新规9月起施行
近年来，有关主管部门出台《人工智能生成合成内容标识办法（征求意见稿）》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定，一定程度上给AI技术使用划定了红线。
中国科学院科技战略咨询研究院院长潘教峰认为，需进一步强化人工智能伦理规制，超前部署人工智能风险研究，提前预判人工智能技术应用可能带来的社会影响。
近日，国家互联网信息办公室等四部门联手发布了《人工智能生成合成内容标识办法》（简称《标识办法》），并定于2025年9月1日起正式施行。
《标识办法》明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。
这一举措，为AI生成内容设定了明确的标识规范，使得以往难以辨别的AI作品必须“持证上岗”，清晰标注其AI生成身份。
你刷到过这种AI换脸带货视频吗？
能不能分得清？
关于治理这个问题
你怎么看？
来源：央视网、九派新闻、羊城派、上游新闻、南方日报、新京报、佛山新闻、封面新闻、扬子晚报
责编：李佳妮
关于最低工资标准，最新明确！广东上调至......