使用“扫一扫”即可将网页分享至朋友圈。
换脸换声、版权侵权……生成式AI被滥用该如何治理？
2025-10-22 09:45:03 来源：央视新闻客户端
中国互联网络信息中心日前发布了《生成式人工智能应用发展报告(2025)》。报告显示，我国生成式人工智能产品用户规模已达5.15亿人。报告同时也提出，随着生成式人工智能的高速普及，其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。这些问题在实践中存在哪些表现？如何治理和应对这些风险挑战？
利用AI换脸换声生成虚假广告案件频发
生成式人工智能的多模态能力，可以让用户轻易给视频中的人物换脸换声，甚至直接生成完全虚构的视频，给不法分子带来可乘之机。近期就发生了多起AI换脸换声，生成虚假广告的案件。比如，有的伪造奥运冠军推荐土鸡蛋，还有的伪造医生形象推销保健品，严重误导公众。
这些换声和换脸的AI深度合成是如何制作出来的呢？面对这些以假乱真的视频，又该如何识别？
业内人士告诉记者，随着AI换声换脸技术的越来越成熟，已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成，最好的办法还是通过AI去识别。即用AI去识别AI。
人工智能大模型研究员 潘季明：从技术角度来说，最快的方式还是基于AI的方式去进行识别，如专门的深度伪造鉴别模型，用于分析视频和音频中的不自然的特征，如检测眨眼频率、面部肌肉运动的生理一致性、音频与纯嘴唇同步率、光源一致性等细微的物理或生理破绽。
专家：治理核心在于全面落实内容标识制度
近两年，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。对此，专家表示，治理的核心在于全面落实内容标识制度。
北京航空航天大学法学院副教授 赵精武：我国自2025年9月起正式施行了《人工智能生成合成内容标识办法》，其中明确要求，所有AI生成的文字、图片、视频等内容必须添加显式标识以"亮明身份"，同时鼓励添加数字水印等隐式标识。平台企业应当依据《人工智能生成合成内容标识办法》，从源头嵌入标识机制，为AI生成内容附加不可篡改的数字水印，并确保这些标识在经过剪辑、压缩后仍能被准确识别。
专家表示，AI深度合成的使用者在通过AI制作视频时，应该有一条侵权法律界限，要合规合法使用人工智能深度合成。
北京航空航天大学法学院副教授 赵精武：在明确合法性边界方面，需要严格区分AI换脸技术的合法应用与非法滥用的边界。合法应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景，这些应用需遵循法律上规定最小必要原则，确保使用范围和目的相匹配，并获取相应授权。而非法滥用则主要表现为未经授权的肖像冒用、虚假信息传播、淫秽色情内容制作等场景。
AI大模型训练引发版权问题 矛盾怎么破？
再来看人工智能带来的版权侵权问题。早在去年10月，文学界、音乐界等超万名人士发表了一份联合声明，谴责“未经许可使用创意作品来训练生成式人工智能”的行为。人工智能大模型使用的数据为何会引起版权争端，又该如何破局，来听听专家怎么说。
AI业内人士告诉记者，目前人工智能大模型训练的数据，绝大多数来自于网络，这些数据就包括含有版权的相关数据。
人工智能大模型研究员 潘季明：现有的大模型都是基于海量的数据进行训练的，其来源包括像互联网数据，以及图书、论文、行业数据等，经过数据预处理，通过无监督学习、微调、强化学习之后，便可用于内容生成。然而模型是没有版权意识的，它不知道哪些内容是涉及版权，哪些不能随便生成，除非对现在数据进行一个明确的版权标识。而现在的大模型基本上不管有没有版权，都会去进行一个数据抓取训练。
针对人工智能大模型涉及的版权问题，专家表示，发展人工智能不能以牺牲版权为代价，两者和谐共生应以尊重知识产权为前提。
北京航空航天大学法学院副教授赵精武介绍，AI开发运营者需建立全面的著作权合规机制，包括：
在训练数据收集阶段进行版权审核，优先获取授权和使用开放许可的资源；在模型训练过程中保留数据来源记录；
在内容生成环节嵌入防抄袭检测；
在输出阶段需要添加版权标识和水印。
另一方面，主管部门需要扩充训练数据供给渠道，化解训练数据不充分与版权的冲突困境。
学生和研究人员滥用AI写论文抄作业引关注
除了刚才说到的问题，报告中也提到，学生和研究人员将生成式人工智能用于写论文、抄作业的情况也正引起各界关注。
专家表示，随着生成式人工智能在学术研究中的广泛应用，学术诚信体系面临前所未有的挑战。简单的禁止措施已被证明效果不彰，且难以执行。“堵不如疏”的治理理念正成为全球学术界的共识，其核心在于认可AI技术提升科研效率的积极价值，同时通过规范引导确保其应用不损害学术诚信。
北京航空航天大学法学院副教授 赵精武：在教学活动中，教师应当设置专门环节引导学生正确使用AI工具，将该类工具从“偷懒”“图省事”的错误定位调整为“提升学习效率”“辅助科研”的正确功能定位，明确它的辅助定位的属性。同时，教师还需要设计能够评估学生思维过程的考核方式，减少对纯文本输入的依赖，增加过程性评价比重。(央视新闻客户端)
“财经新闻网”的新闻页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题，请与
我们联系删除或处理，稿件内容仅为传递更多信息之目的，并不代表认同其内容数据或观点的真实性。
- 声音提醒
- 60秒后自动更新
福布斯亿万富豪榜公布：贝索斯再夺冠，马化腾居于第20位！
08:43中国联通的5G信号首次出现在两会上。记者3月1日上午在北京梅地亚两会新闻中心的现场看到，中国联通的5G信号已经实现了在新闻中心的全覆盖。
09:532018年全年跑路、失联、主办券商风险提示……这样的“黑天鹅”今年以来在新三板频频发生。据不完全统计，今年以来已有近20家新三板公司董事长失联。
19:1512月12日，双十二来临之际，《南方周末》的一篇报道就解开了不少人的困惑，南极人品牌所有商品均不自己生产，品牌的拥有方南极电商只是品牌的运营方和吊牌的出售者。网上的南极人店铺有多少呢？目前南极人旗下全品牌授权经销商有846家，合作经销商3427家，授权店铺4442家。从2018年年初至今，南极人已经14次被国家质监部门及地方消费者协会拉入不合格产品黑名单。这样的滥授权，会不会毁掉南极人这个品牌？
01:44【人大教授：社保新规若严格执行 企业负担将增长50% 】人大财政金融学院副教授马光荣表示，如果现有参保职工严格按照实际工资作为缴费基数，同时法定缴费率严格按照28%执行的话，整个企业部门的社保缴费负担上升50%左右，企业的用工成本会上升7.5%，企业的利润会下降8.2%。短期之内，因为工资有黏性，所以社保费负担的上升主要由企业承担；但是中长期看的话，用工成本上升导致部分制造业企业可能会出现外迁，工人工资会下降。
08:00新华社援引专家分析认为，８月份菜价、肉价波动，主要是季节性因素所致，后期食品价格、服务价格、工业消费品价格仍将保持温和水平，通胀压力没有明显增加。
08:00【洪磊：税收制度是私募基金健康发展的保障】中国证券投资基金业协会会长洪磊表示，税收制度是私募基金健康发展的保障。应当坚持税收法定原则，遵循《基金法》确立的基金属性和税收法律确定的规则，全面审视和调整基金行业税收政策。在私募基金税收征管过程中，应当明确区分作为管理人的合伙企业和作为基金产品的合伙企业，依合伙企业不同收入的性质，准确适用税种和税率。（中证报）
08:00欧盟首席英国退欧事务谈判官Barnier：在未来6到8周达成脱欧协议是“现实的“。
08:00欧盟首席英国退欧事务谈判官Barnier：我们有义务控制外部边界的商品流动。
08:00美银美林：若在美国制造，iPhone可能贵20%。
08:00利比亚国家石油公司总裁Sanalla称，国家石油公司总部遇袭事件对石油生产没有影响。
08:00【腾讯投资部否认投资子弹短信：并无此事】针对“投资子弹短信”一事，腾讯投资并购部回应，表示并无此事。罗永浩 之前在微博提到，子弹短信上线第二天腾讯投资部就打去电话，看看投资的情况。罗永浩称，子弹短信不足以挑战微信，但能拿10%-20%份额，做到几十亿甚至上百亿估值。
08:00【部分长租公寓存在装修污染问题 亟待出台统一规范】近日，部分品牌长租公寓被曝出甲醛等空气污染物超标，有用户直指装修污染是对住户健康造成威胁的“元凶”。记者调查发现，部分长租公寓在光鲜的外表下，却存在着不容忽视的装修污染问题，亟待行业内部出台统一规范。（新华社）
08:00Fred’s（FRED）股价周一飙升，目前涨超50%；此前，该公司宣布以1.65亿美元的价格将一些药房档案出售给Walgreens。
08:00Fred’s（FRED）股价周一飙升，目前涨超50%。
08:00
