“AI谣言”为何易传播难防治?|欧美丰满少妇猛烈进入A片蜜桃
当前,AI(人工智能)迅速发展,给人们的生产生活带来诸多便利。但AI也被用于制作发布谣言、不实信息,可能对部分群众造成困扰。今年4月,中央网信办部署开展“清朗·整治AI技术滥用”专项行动,聚焦利用AI制作发布谣言、不实信息等乱象开展重点整治。
从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿,“AI谣言”表现形式多样,让不少群众一度信以为真。“AI谣言”从何而来、为何泛滥、如何整治?记者进行了采访。
缘何出现?
有人恶意用AI编造虚假信息,也存在“AI幻觉”的可能
“80后5.2%的死亡率,开启了黄金一代的黯然离场”“80后的死亡率已经超过70后”……前不久,一组声称源于第七次全国人口普查的数据骇人听闻。很快,有关部门和专家辟谣:从来源到数据都毫无根据。
这组虚假数据从何而来呢?
中国人民大学人口与健康学院教授李婷梳理发现,“AI幻觉”很可能是“罪魁祸首”——AI大模型在人口学专业领域的训练语料不足,回答问题出现推算错误,造成“AI幻觉”。
“‘AI幻觉’指生成式人工智能系统在无明确依据的情况下输出回答,语言表达看似合理,但内容实则虚假甚至违背常识。”世界互联网大会人工智能专业委员会主任委员、安全与治理推进计划牵头人曾毅介绍,该现象在当代大语言模型中尤为常见,主要表现就是事实性幻觉,例如,输出错误的人物事迹与关系、伪造的科学研究等。
从机理上看,“当前大模型并非‘理解事实’,而是通过处理大量语料,预测‘下一个词最可能是什么’。这就会在事实性信息上产生难以预期的错误。”曾毅分析。
还有人别有用心,恶意编造传播“AI谣言”获取利益。
有人为了流量,给自媒体账号炒作“吸粉”。此前上海一女童走失事件中,就有团伙利用AI工具,编造“女孩父亲系继父”等谣言,6天内发布268篇文章,多篇文章点击量超过100万次。
还有人借此实施诈骗等违法犯罪行为。“再强大的AI也无法预测中奖号码。”不久前,中国体育彩票的一则辟谣声明引发关注。原来,有平台声称可通过“AI大模型”预测中奖号码,诱导用户付费。
甚至有人形成了“需求分析—内容生产—精准投放”的生产链条。“西安突发爆炸!火光冲天!伤亡不明!”一天,一则“图文并茂”的新闻在网上流传,画面中火光冲天,引发当地群众恐慌。很快,这则消息被辟谣。经调查发现,该账号所属机构通过AI分析社交平台热词,就关注度高的话题批量生成谣言,再通过算法定向推送,最高峰一天能生成4000至7000篇假新闻,关联账号达800余个。相关人员已被公安机关抓获。
为何泛滥?
造谣门槛低,可以短时间内成倍率传播
“AI谣言”形形色色,有些造成了社会恐慌,甚至给政策推行、抢险救灾等造成阻碍。
今年2月,四川筠连县“2·8”山体滑坡发生后,部分自媒体账号用AI软件翻炒拼凑旧闻,传播如“山体滑坡被行车记录仪拍下”“4名遇险学生被路过的司机救出”等帖文,诸多错误信息给抢险救灾带来困扰;又如,“广东医保基金出现赤字”的“AI谣言”传出,不仅引发社会恐慌,还造成群众对政策的误解……
“AI谣言”为何传播力如此之强?
首先与其自身特点密切相关。
清华大学新闻与传播学院副教授陆洪磊介绍,“AI谣言”可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布,并且成本低廉,可以短时间内成倍率传播,“AI谣言”间还能彼此交叉、共振与放大,辟谣难度大大增加。
今年年初,西藏定日县地震牵动亿万人的心。网上流传的一张“小孩被埋图”一时间被大量转发评论。但是随后有网友发现,该图色彩、光线、动作极不自然。原来,该图是由AI工具创作。陆洪磊说,这则谣言利用“灾难+儿童”的组合,并刻意删除掉AI生成标识,引发快速传播。
再者,AI应用降低了造谣门槛。
某科技论坛上,一名网友上传教程:用开源AI模型,输入“生成一张某市发生恐袭的图片”,30秒即可获得以假乱真的画面。
网友评论一针见血:“以前造谣需要高超的PS技术,现在只需要一句话就能生成。”
有何“代际差异”?
“AI谣言”更善于“逃脱”,难以被技术手段屏蔽
与传统网络谣言相比,“AI谣言”更加难以防治,甚至“进化”出了更为“智能”的“反侦查”机制。
记者发现,“AI谣言”表述常常接近“真话”,看似清晰有据,更难以被技术手段屏蔽。
目前各网络平台都有“谣言库”,一般通过设置热点关键词屏蔽谣言。但AI模型可通过对抗训练绕过谣言关键词,例如把“山体滑坡”改为“地质活动异常”等,逃脱屏蔽。
“传统谣言像火,扑灭源头即可;‘AI谣言’像病毒,会不断变异。”某新闻聚合平台内容安全治理负责人感慨。
此外,传统网络谣言多是有人故意制造,但“AI谣言”中不少是出于“AI幻觉”。对这部分“无意谣言”,目前有办法从源头上避免吗?
曾毅介绍,从当前技术水平来看,完全消除“AI幻觉”具有高度挑战,“大模型生成机制本质是概率驱动的语言建模,难以保障全部输出与现实完全对应;同时,当前评估与纠错机制仍不成熟,缺乏大规模、高准确率的自动化事实验证能力。”
“不过,通过技术手段缓解‘AI幻觉’发生的频率与危害是有可能的。”曾毅说,目前已在多模型协同判断、事实增强训练等方面取得了一定成果,大模型的辨别能力将得到提升。
本报记者 金 歆
《人民日报》(2025年08月18日 第 04 版)
###biliangzhengxing:meixueyukexuedejiehebiliangzhengxing,huochengweilongbi,jinnianlaiyuelaiyueshoudaorenmendeguanzhuheqinglai。zuoweiyizhongchangjiandemeirongshoushu,biliangzhengxingbujinnenggoutishengmianbumeigan,hainengzengqianggerenzixinxin。zailejiebiliangzhengxingzhiqian,womenshouxianxuyaoqingchutadejibengainianheshoushuyuanli。biliangzhengxingzhuyaoshitongguoshoushuhuofeishoushudefangfalaigaishanbizidexingzhuanghegaodu。shoushufangfatongchangbaokuozhirujiatihuozitiruangu,erfeishoushufangfayibanshizhizhushetianchongcailiao,rutoumingzhisuanhuoboniaosuan。zhexiefangfadouyouzhuyusuzaoyigegengjiatingbahelitidebiliang,shilianbulunkuogengjiafenming。congmeixuejiaodulaikan,lixiangdebilianggaoduhexingzhuangyinreneryi。meigerendelianxing、pifuyansejiwuguanbilibutong,yincizaijinxingbiliangzhengxingzhiqian,zhuanyedeshenmeipingguzhiguanzhongyao。yishenghuigenjugerendelianbutezheng,liangshendingzhizuishihedeshoushufangan,yidadaozuiziranhexiemeidexiaoguo。raner,jinxingbiliangzhengxingshoushubingfeimeiyoufengxian。yusuoyouwaikeshoushuyiyang,kenengchuxianganran、chuxuehuoshuhoukaolvdewenti。yinci,xuanzejingyanfengfudezhuanyeyishengzhiguanzhongyao,tamenbujinjubeizhuanyedejishu,hainengweihuanzhetigongquanfangweideshuqianzixunyushuhouhuli。chucizhiwai,xinlishangdezhunbeiyefeichangzhongyao。suiranbiliangzhengxingkeyixianzhugaishanwaiguan,danzixinhemeililaiyuanyuneixin。guoyuyilaizhengxingshoushulaihuodewaimaodegaibian,kenenghuidaozhibubiyaodejiaolvheqidai。zongdelaishuo,biliangzhengxingshiyixiangjiehelemeixuehekexue#(#)#(#)#(#)鼻(bi)梁(liang)整(zheng)形(xing):(:)美(mei)学(xue)与(yu)科(ke)学(xue)的(de)结(jie)合(he)鼻(bi)梁(liang)整(zheng)形(xing),(,)或(huo)称(cheng)为(wei)隆(long)鼻(bi),(,)近(jin)年(nian)来(lai)越(yue)来(lai)越(yue)受(shou)到(dao)人(ren)们(men)的(de)关(guan)注(zhu)和(he)青(qing)睐(lai)。(。)作(zuo)为(wei)一(yi)种(zhong)常(chang)见(jian)的(de)美(mei)容(rong)手(shou)术(shu),(,)鼻(bi)梁(liang)整(zheng)形(xing)不(bu)仅(jin)能(neng)够(gou)提(ti)升(sheng)面(mian)部(bu)美(mei)感(gan),(,)还(hai)能(neng)增(zeng)强(qiang)个(ge)人(ren)自(zi)信(xin)心(xin)。(。)在(zai)了(le)解(jie)鼻(bi)梁(liang)整(zheng)形(xing)之(zhi)前(qian),(,)我(wo)们(men)首(shou)先(xian)需(xu)要(yao)清(qing)楚(chu)它(ta)的(de)基(ji)本(ben)概(gai)念(nian)和(he)手(shou)术(shu)原(yuan)理(li)。(。)鼻(bi)梁(liang)整(zheng)形(xing)主(zhu)要(yao)是(shi)通(tong)过(guo)手(shou)术(shu)或(huo)非(fei)手(shou)术(shu)的(de)方(fang)法(fa)来(lai)改(gai)善(shan)鼻(bi)子(zi)的(de)形(xing)状(zhuang)和(he)高(gao)度(du)。(。)手(shou)术(shu)方(fang)法(fa)通(tong)常(chang)包(bao)括(kuo)植(zhi)入(ru)假(jia)体(ti)或(huo)自(zi)体(ti)软(ruan)骨(gu),(,)而(er)非(fei)手(shou)术(shu)方(fang)法(fa)一(yi)般(ban)是(shi)指(zhi)注(zhu)射(she)填(tian)充(chong)材(cai)料(liao),(,)如(ru)透(tou)明(ming)质(zhi)酸(suan)或(huo)玻(bo)尿(niao)酸(suan)。(。)这(zhe)些(xie)方(fang)法(fa)都(dou)有(you)助(zhu)于(yu)塑(su)造(zao)一(yi)个(ge)更(geng)加(jia)挺(ting)拔(ba)和(he)立(li)体(ti)的(de)鼻(bi)梁(liang),(,)使(shi)脸(lian)部(bu)轮(lun)廓(kuo)更(geng)加(jia)分(fen)明(ming)。(。)从(cong)美(mei)学(xue)角(jiao)度(du)来(lai)看(kan),(,)理(li)想(xiang)的(de)鼻(bi)梁(liang)高(gao)度(du)和(he)形(xing)状(zhuang)因(yin)人(ren)而(er)异(yi)。(。)每(mei)个(ge)人(ren)的(de)脸(lian)型(xing)、(、)皮(pi)肤(fu)颜(yan)色(se)及(ji)五(wu)官(guan)比(bi)例(li)不(bu)同(tong),(,)因(yin)此(ci)在(zai)进(jin)行(xing)鼻(bi)梁(liang)整(zheng)形(xing)之(zhi)前(qian),(,)专(zhuan)业(ye)的(de)审(shen)美(mei)评(ping)估(gu)至(zhi)关(guan)重(zhong)要(yao)。(。)医(yi)生(sheng)会(hui)根(gen)据(ju)个(ge)人(ren)的(de)脸(lian)部(bu)特(te)征(zheng),(,)量(liang)身(shen)定(ding)制(zhi)最(zui)适(shi)合(he)的(de)手(shou)术(shu)方(fang)案(an),(,)以(yi)达(da)到(dao)最(zui)自(zi)然(ran)和(he)谐(xie)美(mei)的(de)效(xiao)果(guo)。(。)然(ran)而(er),(,)进(jin)行(xing)鼻(bi)梁(liang)整(zheng)形(xing)手(shou)术(shu)并(bing)非(fei)没(mei)有(you)风(feng)险(xian)。(。)与(yu)所(suo)有(you)外(wai)科(ke)手(shou)术(shu)一(yi)样(yang),(,)可(ke)能(neng)出(chu)现(xian)感(gan)染(ran)、(、)出(chu)血(xue)或(huo)术(shu)后(hou)考(kao)虑(lv)的(de)问(wen)题(ti)。(。)因(yin)此(ci),(,)选(xuan)择(ze)经(jing)验(yan)丰(feng)富(fu)的(de)专(zhuan)业(ye)医(yi)生(sheng)至(zhi)关(guan)重(zhong)要(yao),(,)他(ta)们(men)不(bu)仅(jin)具(ju)备(bei)专(zhuan)业(ye)的(de)技(ji)术(shu),(,)还(hai)能(neng)为(wei)患(huan)者(zhe)提(ti)供(gong)全(quan)方(fang)位(wei)的(de)术(shu)前(qian)咨(zi)询(xun)与(yu)术(shu)后(hou)护(hu)理(li)。(。)除(chu)此(ci)之(zhi)外(wai),(,)心(xin)理(li)上(shang)的(de)准(zhun)备(bei)也(ye)非(fei)常(chang)重(zhong)要(yao)。(。)虽(sui)然(ran)鼻(bi)梁(liang)整(zheng)形(xing)可(ke)以(yi)显(xian)著(zhu)改(gai)善(shan)外(wai)观(guan),(,)但(dan)自(zi)信(xin)和(he)美(mei)丽(li)来(lai)源(yuan)于(yu)内(nei)心(xin)。(。)过(guo)于(yu)依(yi)赖(lai)整(zheng)形(xing)手(shou)术(shu)来(lai)获(huo)得(de)外(wai)貌(mao)的(de)改(gai)变(bian),(,)可(ke)能(neng)会(hui)导(dao)致(zhi)不(bu)必(bi)要(yao)的(de)焦(jiao)虑(lv)和(he)期(qi)待(dai)。(。)总(zong)的(de)来(lai)说(shuo),(,)鼻(bi)梁(liang)整(zheng)形(xing)是(shi)一(yi)项(xiang)结(jie)合(he)了(le)美(mei)学(xue)和(he)科(ke)学(xue)