qm球盟会 - 演员吴越愤怒揭露AI假冒代言，微信视频号紧急处理账号

10月18日凌晨，演员吴越在社交平台微博上发声，愤怒质问道：“在这个世代，谁在利用AI随意抓取他人影像从而作恶？这位自称‘花姐’的背后到底骗了多少人？请速速将钱返还！行为实在太卑劣！”吴越发布的视频揭露了一个名为“花姐美肤日记”的账号，竟然通过人工智能技术制作出一段“吴越”的虚假带货直播。在这段视频的开头，吴越的面孔和声音被“换脸”，接着画面切换到了她在公开活动中的视频片段，配以一种听上去像是吴越的声音，声称“这个产品并不是他们找到我，而是我主动寻找的……效果真的非常显著。”视频的结尾还出现了一段疑似“邓亚萍”的带货内容。

据悉，该视频下方标明了“作者提示：含AI生成内容”。对此，澎湃新闻从微信团队获取的信息显示，这个账号已被永久封禁，所发布的内容也已被清除，无法再被查看。早在今年3月份，微信视频号就曾发布公告，表明将加强对AI生成内容的治理，设立了常态化的管控机制，专门针对疑似AI合成的内容添加标识，以便让用户能够明晰辨识。

与此同时，9月底，中央网信办下发通知，启动全国范围内为期两个月的“清朗·整治短视频虚假人设乱象”专项行动，重点整治通过AI合成伪造音视频的方式，假冒公众人物并进行虚假代言和营销的行为。网信部门要求各大网站平台切实承担内容审核责任，决不可借用标注虚构演绎、AI生成、营销、转载、个人观点等标签去规避网络生态治理的相关要求，从根本上打击涉嫌虚假人设类短视频的上传和发布。 qm球盟会