换脸换声、版权侵权……生成式AI被滥用该如何治理?|亚洲成AV人片一区二区梦乃
中国互联网络信息中心日前发布了《生成式人工智能应用发展报告(2025)》。报告显示,我国生成式人工智能产品用户规模已达5.15亿人。报告同时也提出,随着生成式人工智能的高速普及,其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。这些问题在实践中存在哪些表现?如何治理和应对这些风险挑战?
利用AI换脸换声生成虚假广告案件频发
生成式人工智能的多模态能力,可以让用户轻易给视频中的人物换脸换声,甚至直接生成完全虚构的视频,给不法分子带来可乘之机。近期就发生了多起AI换脸换声,生成虚假广告的案件。比如,有的伪造奥运冠军推荐土鸡蛋,还有的伪造医生形象推销保健品,严重误导公众。
这些换声和换脸的AI深度合成是如何制作出来的呢?面对这些以假乱真的视频,又该如何识别?
业内人士告诉记者,随着AI换声换脸技术的越来越成熟,已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成,最好的办法还是通过AI去识别。即用AI去识别AI。
人工智能大模型研究员 潘季明:从技术角度来说,最快的方式还是基于AI的方式去进行识别,如专门的深度伪造鉴别模型,用于分析视频和音频中的不自然的特征,如检测眨眼频率、面部肌肉运动的生理一致性、音频与纯嘴唇同步率、光源一致性等细微的物理或生理破绽。
专家:治理核心在于全面落实内容标识制度
近两年,AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。对此,专家表示,治理的核心在于全面落实内容标识制度。
北京航空航天大学法学院副教授 赵精武:我国自2025年9月起正式施行了《人工智能生成合成内容标识办法》,其中明确要求,所有AI生成的文字、图片、视频等内容必须添加显式标识以"亮明身份",同时鼓励添加数字水印等隐式标识。平台企业应当依据《人工智能生成合成内容标识办法》,从源头嵌入标识机制,为AI生成内容附加不可篡改的数字水印,并确保这些标识在经过剪辑、压缩后仍能被准确识别。
专家表示,AI深度合成的使用者在通过AI制作视频时,应该有一条侵权法律界限,要合规合法使用人工智能深度合成。
北京航空航天大学法学院副教授 赵精武:在明确合法性边界方面,需要严格区分AI换脸技术的合法应用与非法滥用的边界。合法应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景,这些应用需遵循法律上规定最小必要原则,确保使用范围和目的相匹配,并获取相应授权。而非法滥用则主要表现为未经授权的肖像冒用、虚假信息传播、淫秽色情内容制作等场景。
AI大模型训练引发版权问题 矛盾怎么破?
再来看人工智能带来的版权侵权问题。早在去年10月,文学界、音乐界等超万名人士发表了一份联合声明,谴责“未经许可使用创意作品来训练生成式人工智能”的行为。人工智能大模型使用的数据为何会引起版权争端,又该如何破局,来听听专家怎么说。
AI业内人士告诉记者,目前人工智能大模型训练的数据,绝大多数来自于网络,这些数据就包括含有版权的相关数据。
人工智能大模型研究员 潘季明:现有的大模型都是基于海量的数据进行训练的,其来源包括像互联网数据,以及图书、论文、行业数据等,经过数据预处理,通过无监督学习、微调、强化学习之后,便可用于内容生成。然而模型是没有版权意识的,它不知道哪些内容是涉及版权,哪些不能随便生成,除非对现在数据进行一个明确的版权标识。而现在的大模型基本上不管有没有版权,都会去进行一个数据抓取训练。
针对人工智能大模型涉及的版权问题,专家表示,发展人工智能不能以牺牲版权为代价,两者和谐共生应以尊重知识产权为前提。
北京航空航天大学法学院副教授赵精武介绍,AI开发运营者需建立全面的著作权合规机制,包括:
在训练数据收集阶段进行版权审核,优先获取授权和使用开放许可的资源;在模型训练过程中保留数据来源记录;
在内容生成环节嵌入防抄袭检测;
在输出阶段需要添加版权标识和水印。
另一方面,主管部门需要扩充训练数据供给渠道,化解训练数据不充分与版权的冲突困境。
学生和研究人员滥用AI写论文抄作业引关注
除了刚才说到的问题,报告中也提到,学生和研究人员将生成式人工智能用于写论文、抄作业的情况也正引起各界关注。
专家表示,随着生成式人工智能在学术研究中的广泛应用,学术诚信体系面临前所未有的挑战。简单的禁止措施已被证明效果不彰,且难以执行。“堵不如疏”的治理理念正成为全球学术界的共识,其核心在于认可AI技术提升科研效率的积极价值,同时通过规范引导确保其应用不损害学术诚信。
北京航空航天大学法学院副教授 赵精武:在教学活动中,教师应当设置专门环节引导学生正确使用AI工具,将该类工具从“偷懒”“图省事”的错误定位调整为“提升学习效率”“辅助科研”的正确功能定位,明确它的辅助定位的属性。同时,教师还需要设计能够评估学生思维过程的考核方式,减少对纯文本输入的依赖,增加过程性评价比重。(央视新闻客户端)
qiangzhixingjizhuyanshiyizhongyijizhuhediqiaguanjieweizhuyaoshouleibuweidemanxingyanzhengxingjibing,qilinchuangtezhengshitengtong、jiangyinghegongnengzhangai。jinnianlai,suizheyanjiudeshenru,guanyuqiangzhixingjizhuyanderenshibuduangengxin。qizhongyigezhongyaoguandianshi:zaoqizhenduanheganyuduigaishanhuanzheyuhouzhiguanzhongyao。shouxian,qiangzhixingjizhuyandezaoqizhenduanwangwangmianlintiaozhan,yinweiqizhengzhuangyuqitajibingxiangsi,rongyibeihushi。raner,yanjiubiaoming,zaoqishibiegaijibingbujinkeyijianhuanqijinzhan,haikeyixianzhutigaohuanzhedeshenghuozhiliang。tongguojishideyixueyingxiangxuejianzha,ruXguangheMRI,keyishaizhachuzaoqideyanzhengbianhua,shihuanzhejinzaojieshouxiangyingzhiliao。qici,zaoqiganyuduiyukongzhibingqingfazhanzhiguanzhongyao。yaowuzhiliao,rufeizaitikangyanyao(NSAIDs)heshengwuzhiji,nenggouyouxiaohuanjietengtongheyanzheng,gaishanhuanzhedegongnengzhuangtai。jiehewulizhiliaoheduanlianjihua,huanzhedejizhulinghuoxingheyundongnenglikeyidedaoxianzhutisheng。zhexiecuoshizaijibingzaoqishishi,gengnengfahuizuidadezhiliaoxiaoguo,congerbangzhuhuanzheshixiangenglianghaodeshenghuozhiliang。ciwai,jiaoyuhexinlizhichitongyangshizaoqiganyudezhongyaozuchengbufen。zengqianghuanzheduijibingderenshi、tigongqingganzhichi,keyibangzhutamengenghaodishiyingshenghuofangshidegaibian,jijicanyuzhiliaohekangfuguocheng。tongguojianlilianghaodeyihuanguanxi,huanzhenenggouzaihuoquxinxidejichushang,zuochugengkexuedejiankangxuanze。zongshangsuoshu,zaoqizhenduanheganyushiguanliqiangzhixingjizhuyandeguanjiancelve。zheyiguandianqiangtiaoleyixuejiezaimianduigaijibingshi,xu强(qiang)直(zhi)性(xing)脊(ji)柱(zhu)炎(yan)是(shi)一(yi)种(zhong)以(yi)脊(ji)柱(zhu)和(he)骶(di)髂(qia)关(guan)节(jie)为(wei)主(zhu)要(yao)受(shou)累(lei)部(bu)位(wei)的(de)慢(man)性(xing)炎(yan)症(zheng)性(xing)疾(ji)病(bing),(,)其(qi)临(lin)床(chuang)特(te)征(zheng)是(shi)疼(teng)痛(tong)、(、)僵(jiang)硬(ying)和(he)功(gong)能(neng)障(zhang)碍(ai)。(。)近(jin)年(nian)来(lai),(,)随(sui)着(zhe)研(yan)究(jiu)的(de)深(shen)入(ru),(,)关(guan)于(yu)强(qiang)直(zhi)性(xing)脊(ji)柱(zhu)炎(yan)的(de)认(ren)识(shi)不(bu)断(duan)更(geng)新(xin)。(。)其(qi)中(zhong)一(yi)个(ge)重(zhong)要(yao)观(guan)点(dian)是(shi):(:)早(zao)期(qi)诊(zhen)断(duan)和(he)干(gan)预(yu)对(dui)改(gai)善(shan)患(huan)者(zhe)预(yu)后(hou)至(zhi)关(guan)重(zhong)要(yao)。(。)首(shou)先(xian),(,)强(qiang)直(zhi)性(xing)脊(ji)柱(zhu)炎(yan)的(de)早(zao)期(qi)诊(zhen)断(duan)往(wang)往(wang)面(mian)临(lin)挑(tiao)战(zhan),(,)因(yin)为(wei)其(qi)症(zheng)状(zhuang)与(yu)其(qi)他(ta)疾(ji)病(bing)相(xiang)似(si),(,)容(rong)易(yi)被(bei)忽(hu)视(shi)。(。)然(ran)而(er),(,)研(yan)究(jiu)表(biao)明(ming),(,)早(zao)期(qi)识(shi)别(bie)该(gai)疾(ji)病(bing)不(bu)仅(jin)可(ke)以(yi)减(jian)缓(huan)其(qi)进(jin)展(zhan),(,)还(hai)可(ke)以(yi)显(xian)著(zhu)提(ti)高(gao)患(huan)者(zhe)的(de)生(sheng)活(huo)质(zhi)量(liang)。(。)通(tong)过(guo)及(ji)时(shi)的(de)医(yi)学(xue)影(ying)像(xiang)学(xue)检(jian)查(zha),(,)如(ru)X(X)光(guang)和(he)M(M)R(R)I(I),(,)可(ke)以(yi)筛(shai)查(zha)出(chu)早(zao)期(qi)的(de)炎(yan)症(zheng)变(bian)化(hua),(,)使(shi)患(huan)者(zhe)尽(jin)早(zao)接(jie)受(shou)相(xiang)应(ying)治(zhi)疗(liao)。(。)其(qi)次(ci),(,)早(zao)期(qi)干(gan)预(yu)对(dui)于(yu)控(kong)制(zhi)病(bing)情(qing)发(fa)展(zhan)至(zhi)关(guan)重(zhong)要(yao)。(。)药(yao)物(wu)治(zhi)疗(liao),(,)如(ru)非(fei)甾(zai)体(ti)抗(kang)炎(yan)药(yao)((()N(N)S(S)A(A)I(I)D(D)s(s))())和(he)生(sheng)物(wu)制(zhi)剂(ji),(,)能(neng)够(gou)有(you)效(xiao)缓(huan)解(jie)疼(teng)痛(tong)和(he)炎(yan)症(zheng),(,)改(gai)善(shan)患(huan)者(zhe)的(de)功(gong)能(neng)状(zhuang)态(tai)。(。)结(jie)合(he)物(wu)理(li)治(zhi)疗(liao)和(he)锻(duan)炼(lian)计(ji)划(hua),(,)患(huan)者(zhe)的(de)脊(ji)柱(zhu)灵(ling)活(huo)性(xing)和(he)运(yun)动(dong)能(neng)力(li)可(ke)以(yi)得(de)到(dao)显(xian)著(zhu)提(ti)升(sheng)。(。)这(zhe)些(xie)措(cuo)施(shi)在(zai)疾(ji)病(bing)早(zao)期(qi)实(shi)施(shi),(,)更(geng)能(neng)发(fa)挥(hui)最(zui)大(da)的(de)治(zhi)疗(liao)效(xiao)果(guo),(,)从(cong)而(er)帮(bang)助(zhu)患(huan)者(zhe)实(shi)现(xian)更(geng)良(liang)好(hao)的(de)生(sheng)活(huo)质(zhi)量(liang)。(。)此(ci)外(wai),(,)教(jiao)育(yu)和(he)心(xin)理(li)支(zhi)持(chi)同(tong)样(yang)是(shi)早(zao)期(qi)干(gan)预(yu)的(de)重(zhong)要(yao)组(zu)成(cheng)部(bu)分(fen)。(。)增(zeng)强(qiang)患(huan)者(zhe)对(dui)疾(ji)病(bing)的(de)认(ren)识(shi)、(、)提(ti)供(gong)情(qing)感(gan)支(zhi)持(chi),(,)可(ke)以(yi)帮(bang)助(zhu)他(ta)们(men)更(geng)好(hao)地(di)适(shi)应(ying)生(sheng)活(huo)方(fang)式(shi)的(de)改(gai)变(bian),(,)积(ji)极(ji)参(can)与(yu)治(zhi)疗(liao)和(he)康(kang)复(fu)过(guo)程(cheng)。(。)通(tong)过(guo)建(jian)立(li)良(liang)好(hao)的(de)医(yi)患(huan)关(guan)系(xi),(,)患(huan)者(zhe)能(neng)够(gou)在(zai)获(huo)取(qu)信(xin)息(xi)的(de)基(ji)础(chu)上(shang),(,)做(zuo)出(chu)更(geng)科(ke)学(xue)的(de)健(jian)康(kang)选(xuan)择(ze)。(。)综(zong)上(shang)所(suo)述(shu),(,)早(zao)期(qi)诊(zhen)断(duan)和(he)干(gan)预(yu)是(shi)管(guan)理(li)强(qiang)直(zhi)性(xing)脊(ji)柱(zhu)炎(yan)的(de)关(guan)键(jian)策(ce)略(lve)。(。)这(zhe)一(yi)观(guan)点(dian)强(qiang)调(tiao)了(le)医(yi)学(xue)界(jie)在(zai)面(mian)对(dui)该(gai)疾(ji)病(bing)时(shi),(,)需(xu)