“AI谣言”为何易传播难防治?|黑人狂躁刘玥xxⅹxx
当前,AI(人工智能)迅速发展,给人们的生产生活带来诸多便利。但AI也被用于制作发布谣言、不实信息,可能对部分群众造成困扰。今年4月,中央网信办部署开展“清朗·整治AI技术滥用”专项行动,聚焦利用AI制作发布谣言、不实信息等乱象开展重点整治。
从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿,“AI谣言”表现形式多样,让不少群众一度信以为真。“AI谣言”从何而来、为何泛滥、如何整治?记者进行了采访。
缘何出现?
有人恶意用AI编造虚假信息,也存在“AI幻觉”的可能
“80后5.2%的死亡率,开启了黄金一代的黯然离场”“80后的死亡率已经超过70后”……前不久,一组声称源于第七次全国人口普查的数据骇人听闻。很快,有关部门和专家辟谣:从来源到数据都毫无根据。
这组虚假数据从何而来呢?
中国人民大学人口与健康学院教授李婷梳理发现,“AI幻觉”很可能是“罪魁祸首”——AI大模型在人口学专业领域的训练语料不足,回答问题出现推算错误,造成“AI幻觉”。
“‘AI幻觉’指生成式人工智能系统在无明确依据的情况下输出回答,语言表达看似合理,但内容实则虚假甚至违背常识。”世界互联网大会人工智能专业委员会主任委员、安全与治理推进计划牵头人曾毅介绍,该现象在当代大语言模型中尤为常见,主要表现就是事实性幻觉,例如,输出错误的人物事迹与关系、伪造的科学研究等。
从机理上看,“当前大模型并非‘理解事实’,而是通过处理大量语料,预测‘下一个词最可能是什么’。这就会在事实性信息上产生难以预期的错误。”曾毅分析。
还有人别有用心,恶意编造传播“AI谣言”获取利益。
有人为了流量,给自媒体账号炒作“吸粉”。此前上海一女童走失事件中,就有团伙利用AI工具,编造“女孩父亲系继父”等谣言,6天内发布268篇文章,多篇文章点击量超过100万次。
还有人借此实施诈骗等违法犯罪行为。“再强大的AI也无法预测中奖号码。”不久前,中国体育彩票的一则辟谣声明引发关注。原来,有平台声称可通过“AI大模型”预测中奖号码,诱导用户付费。
甚至有人形成了“需求分析—内容生产—精准投放”的生产链条。“西安突发爆炸!火光冲天!伤亡不明!”一天,一则“图文并茂”的新闻在网上流传,画面中火光冲天,引发当地群众恐慌。很快,这则消息被辟谣。经调查发现,该账号所属机构通过AI分析社交平台热词,就关注度高的话题批量生成谣言,再通过算法定向推送,最高峰一天能生成4000至7000篇假新闻,关联账号达800余个。相关人员已被公安机关抓获。
为何泛滥?
造谣门槛低,可以短时间内成倍率传播
“AI谣言”形形色色,有些造成了社会恐慌,甚至给政策推行、抢险救灾等造成阻碍。
今年2月,四川筠连县“2·8”山体滑坡发生后,部分自媒体账号用AI软件翻炒拼凑旧闻,传播如“山体滑坡被行车记录仪拍下”“4名遇险学生被路过的司机救出”等帖文,诸多错误信息给抢险救灾带来困扰;又如,“广东医保基金出现赤字”的“AI谣言”传出,不仅引发社会恐慌,还造成群众对政策的误解……
“AI谣言”为何传播力如此之强?
首先与其自身特点密切相关。
清华大学新闻与传播学院副教授陆洪磊介绍,“AI谣言”可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布,并且成本低廉,可以短时间内成倍率传播,“AI谣言”间还能彼此交叉、共振与放大,辟谣难度大大增加。
今年年初,西藏定日县地震牵动亿万人的心。网上流传的一张“小孩被埋图”一时间被大量转发评论。但是随后有网友发现,该图色彩、光线、动作极不自然。原来,该图是由AI工具创作。陆洪磊说,这则谣言利用“灾难+儿童”的组合,并刻意删除掉AI生成标识,引发快速传播。
再者,AI应用降低了造谣门槛。
某科技论坛上,一名网友上传教程:用开源AI模型,输入“生成一张某市发生恐袭的图片”,30秒即可获得以假乱真的画面。
网友评论一针见血:“以前造谣需要高超的PS技术,现在只需要一句话就能生成。”
有何“代际差异”?
“AI谣言”更善于“逃脱”,难以被技术手段屏蔽
与传统网络谣言相比,“AI谣言”更加难以防治,甚至“进化”出了更为“智能”的“反侦查”机制。
记者发现,“AI谣言”表述常常接近“真话”,看似清晰有据,更难以被技术手段屏蔽。
目前各网络平台都有“谣言库”,一般通过设置热点关键词屏蔽谣言。但AI模型可通过对抗训练绕过谣言关键词,例如把“山体滑坡”改为“地质活动异常”等,逃脱屏蔽。
“传统谣言像火,扑灭源头即可;‘AI谣言’像病毒,会不断变异。”某新闻聚合平台内容安全治理负责人感慨。
此外,传统网络谣言多是有人故意制造,但“AI谣言”中不少是出于“AI幻觉”。对这部分“无意谣言”,目前有办法从源头上避免吗?
曾毅介绍,从当前技术水平来看,完全消除“AI幻觉”具有高度挑战,“大模型生成机制本质是概率驱动的语言建模,难以保障全部输出与现实完全对应;同时,当前评估与纠错机制仍不成熟,缺乏大规模、高准确率的自动化事实验证能力。”
“不过,通过技术手段缓解‘AI幻觉’发生的频率与危害是有可能的。”曾毅说,目前已在多模型协同判断、事实增强训练等方面取得了一定成果,大模型的辨别能力将得到提升。
本报记者 金 歆
《人民日报》(2025年08月18日 第 04 版)
###baixibaogaoshizenmehuishi?baixibao(youchengbaixueqiu)shiwomentineidezhongyaozuchengbufen,zhuyaofuzediyuganranheweihumianyixitongdezhengchangyunzuo。dangwomenshuobaixibaoshulianggaoshi,tongchangshizhixueyejiancezhongdebaixibaojishuchaoguozhengchangfanwei,zhezhongxianxiangbeichengwei“baixibaozengduozheng”。name,baixibaozengduodeyuanyinjiujingshishenmene?shouxian,zuichangjiandeyuanyinshiganran。dangshentishoudaoxijun、bingduhuoqitabingyuantiqinxishi,mianyixitongjiuhuichanshenggengduodebaixibaolaijinxingzhandou。cishi,baixibaoshuliangdezengjiashishentiziwobaohudeyizhongfanying。chuleganran,qitayixieyinsuyekenengdaozhibaixibaozengduo。liru,yanzhengxingjibing(ruguanjieyan)、guominfanying、zuzhisunshang(liruwaishanghuoshoushu)dengqingkuangdouhuicijishentichanshenggengduodebaixibao。ciwai,mouxieyaowu、ruleiguchun,yenengdaozhibaixibaoshuliangdeshangsheng。zaimouxieqingkuangxia,baixibaozengduokenengyugengyanzhongdejiankangwentixiangguan。liru,mouxieleixingdexueyejibing(rubaixuebing)huogusuijibingkenengyinqibaixibaoyichangzengduo。zhexieqingkuangtongchangbansuiqitazhengzhuang,rupilao、tizhongxiajiangdeng,xuyaojishijiuyi。zailinchuangshang,yishengtongchanghuitongguoxueyejianzhalaijiancebaixibaodeshuliang。ruguofaxianbaixibaozengduo,yishenghuijiehehuanzhedebingshi、qitashiyanshijianzhajieguo,shenzhijinyibudeyingxiangxuejianzha,laipanduanqianzaidebingyin。yinci,baixibaozengduobingbuyidingyiweizhejiankangchuxianleweiji,danjueduiburonghushi。yidanfaxianyouxiangguanzhengzhuang,jianyijishixunqiuyiliaojianyi,yibianzhaodaobingyin#(#)#(#)#(#)白(bai)细(xi)胞(bao)高(gao)是(shi)怎(zen)么(me)回(hui)事(shi)?(?)白(bai)细(xi)胞(bao)((()又(you)称(cheng)白(bai)血(xue)球(qiu))())是(shi)我(wo)们(men)体(ti)内(nei)的(de)重(zhong)要(yao)组(zu)成(cheng)部(bu)分(fen),(,)主(zhu)要(yao)负(fu)责(ze)抵(di)御(yu)感(gan)染(ran)和(he)维(wei)护(hu)免(mian)疫(yi)系(xi)统(tong)的(de)正(zheng)常(chang)运(yun)作(zuo)。(。)当(dang)我(wo)们(men)说(shuo)白(bai)细(xi)胞(bao)数(shu)量(liang)高(gao)时(shi),(,)通(tong)常(chang)是(shi)指(zhi)血(xue)液(ye)检(jian)测(ce)中(zhong)的(de)白(bai)细(xi)胞(bao)计(ji)数(shu)超(chao)过(guo)正(zheng)常(chang)范(fan)围(wei),(,)这(zhe)种(zhong)现(xian)象(xiang)被(bei)称(cheng)为(wei)“(“)白(bai)细(xi)胞(bao)增(zeng)多(duo)症(zheng)”(”)。(。)那(na)么(me),(,)白(bai)细(xi)胞(bao)增(zeng)多(duo)的(de)原(yuan)因(yin)究(jiu)竟(jing)是(shi)什(shen)么(me)呢(ne)?(?)首(shou)先(xian),(,)最(zui)常(chang)见(jian)的(de)原(yuan)因(yin)是(shi)感(gan)染(ran)。(。)当(dang)身(shen)体(ti)受(shou)到(dao)细(xi)菌(jun)、(、)病(bing)毒(du)或(huo)其(qi)他(ta)病(bing)原(yuan)体(ti)侵(qin)袭(xi)时(shi),(,)免(mian)疫(yi)系(xi)统(tong)就(jiu)会(hui)产(chan)生(sheng)更(geng)多(duo)的(de)白(bai)细(xi)胞(bao)来(lai)进(jin)行(xing)战(zhan)斗(dou)。(。)此(ci)时(shi),(,)白(bai)细(xi)胞(bao)数(shu)量(liang)的(de)增(zeng)加(jia)是(shi)身(shen)体(ti)自(zi)我(wo)保(bao)护(hu)的(de)一(yi)种(zhong)反(fan)应(ying)。(。)除(chu)了(le)感(gan)染(ran),(,)其(qi)他(ta)一(yi)些(xie)因(yin)素(su)也(ye)可(ke)能(neng)导(dao)致(zhi)白(bai)细(xi)胞(bao)增(zeng)多(duo)。(。)例(li)如(ru),(,)炎(yan)症(zheng)性(xing)疾(ji)病(bing)((()如(ru)关(guan)节(jie)炎(yan))())、(、)过(guo)敏(min)反(fan)应(ying)、(、)组(zu)织(zhi)损(sun)伤(shang)((()例(li)如(ru)外(wai)伤(shang)或(huo)手(shou)术(shu))())等(deng)情(qing)况(kuang)都(dou)会(hui)刺(ci)激(ji)身(shen)体(ti)产(chan)生(sheng)更(geng)多(duo)的(de)白(bai)细(xi)胞(bao)。(。)此(ci)外(wai),(,)某(mou)些(xie)药(yao)物(wu)、(、)如(ru)类(lei)固(gu)醇(chun),(,)也(ye)能(neng)导(dao)致(zhi)白(bai)细(xi)胞(bao)数(shu)量(liang)的(de)上(shang)升(sheng)。(。)在(zai)某(mou)些(xie)情(qing)况(kuang)下(xia),(,)白(bai)细(xi)胞(bao)增(zeng)多(duo)可(ke)能(neng)与(yu)更(geng)严(yan)重(zhong)的(de)健(jian)康(kang)问(wen)题(ti)相(xiang)关(guan)。(。)例(li)如(ru),(,)某(mou)些(xie)类(lei)型(xing)的(de)血(xue)液(ye)疾(ji)病(bing)((()如(ru)白(bai)血(xue)病(bing))())或(huo)骨(gu)髓(sui)疾(ji)病(bing)可(ke)能(neng)引(yin)起(qi)白(bai)细(xi)胞(bao)异(yi)常(chang)增(zeng)多(duo)。(。)这(zhe)些(xie)情(qing)况(kuang)通(tong)常(chang)伴(ban)随(sui)其(qi)他(ta)症(zheng)状(zhuang),(,)如(ru)疲(pi)劳(lao)、(、)体(ti)重(zhong)下(xia)降(jiang)等(deng),(,)需(xu)要(yao)及(ji)时(shi)就(jiu)医(yi)。(。)在(zai)临(lin)床(chuang)上(shang),(,)医(yi)生(sheng)通(tong)常(chang)会(hui)通(tong)过(guo)血(xue)液(ye)检(jian)查(zha)来(lai)监(jian)测(ce)白(bai)细(xi)胞(bao)的(de)数(shu)量(liang)。(。)如(ru)果(guo)发(fa)现(xian)白(bai)细(xi)胞(bao)增(zeng)多(duo),(,)医(yi)生(sheng)会(hui)结(jie)合(he)患(huan)者(zhe)的(de)病(bing)史(shi)、(、)其(qi)他(ta)实(shi)验(yan)室(shi)检(jian)查(zha)结(jie)果(guo),(,)甚(shen)至(zhi)进(jin)一(yi)步(bu)的(de)影(ying)像(xiang)学(xue)检(jian)查(zha),(,)来(lai)判(pan)断(duan)潜(qian)在(zai)的(de)病(bing)因(yin)。(。)因(yin)此(ci),(,)白(bai)细(xi)胞(bao)增(zeng)多(duo)并(bing)不(bu)一(yi)定(ding)意(yi)味(wei)着(zhe)健(jian)康(kang)出(chu)现(xian)了(le)危(wei)机(ji),(,)但(dan)绝(jue)对(dui)不(bu)容(rong)忽(hu)视(shi)。(。)一(yi)旦(dan)发(fa)现(xian)有(you)相(xiang)关(guan)症(zheng)状(zhuang),(,)建(jian)议(yi)及(ji)时(shi)寻(xun)求(qiu)医(yi)疗(liao)建(jian)议(yi),(,)以(yi)便(bian)找(zhao)到(dao)病(bing)因(yin)