(来源:工人日报)
本报讯 (记者陈丹丹)短视频中,一位专家正侃侃而谈,推销着某品牌的压片糖果,画面自然,动作流畅……然而,经监管部门核查,该视频并非由专家本人出镜,其声音和画面全部由AI合成。近日,广东省市场监管部门查处了一起用AI伪造专家带货的案件。目前,相关视频已被下架,涉案公司被处以行政处罚。
仅需一张照片、几十秒音频,就能借助AI工具快速“克隆”出一个数字名人……随着AI技术的普及和迭代,一些不法商家通过仿冒专家学者、知名演员等公众人物形象,生成虚假短视频或直播内容进行带货,损害了消费者及被仿冒公众人物的合法权益。
不少消费者反映遇到过类似情况。来自山东的谢先生告诉记者,自己的母亲常在家庭微信群中转发各类养生产品视频,“很多是以医生形象带货,看起来像是访谈片段,但放大视频仔细查看,就能发现口型和声音经常对不上,人物眨眼也不自然”。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括表示,用AI仿冒名人带货的行为可能侵害他人肖像权、声音权。“如果伪造的内容系虚假宣传、推广低劣产品,公众的不满可能会转嫁到被仿冒者本人身上,从而导致其社会评价降低,侵害其名誉权”。
“这类乱象不仅会误导消费者,还会扰乱市场秩序,削弱公众对权威人士、直播带货的信任,从而影响数字经济的健康可持续发展。”吴沈括表示,此类行为可能构成虚假广告,相关主体将面临行政处罚,更严重者还可能会构成诈骗罪、虚假广告罪,受到刑事处罚。
针对利用AI仿冒专家带货等乱象,监管部门不断加大打击力度,平台同步开展多轮整治工作。今年2月,《直播电商监督管理办法》正式施行,明确要求使用AI生成的人物图像、视频从事直播电商活动,必须进行显著标识,并向消费者持续提示。今年以来,中央网信办全面部署推进规范短视频内容标注工作,明确要求将内容标注设为短视频发布必经环节,发布者须从“含有AI生成内容”等6类标签中选择一项,方能完成发布。此外,相关网站平台持续深入清理AI仿冒名人等营销内容。
记者梳理公开信息发现,在养生保健、减肥瘦身、美妆护肤等领域,已有多起AI仿冒名人形象、声音带货案件被查处。
谈及如何进一步治理此类问题,吴沈括认为,应继续完善相关法律法规和监管体系,落实AI生成内容强制标识义务,提升对AI仿冒内容识别的准确率,建立起跨部门协同机制。同时,平台应加强审核与管理,并完善快速响应机制,对违规内容及时处理,积极推广相应的行业自律标准。