“AI谣言”为何易传播难防治?|妺妺窝人体色WWW在线下载
1. 人体腘窝在哪里图示
当前,AI(人工智能)迅速发展,给人们的生产生活带来诸多便利。但AI也被用于制作发布谣言、不实信息,可能对部分群众造成困扰。今年4月,中央网信办部署开展“清朗·整治AI技术滥用”专项行动,聚焦利用AI制作发布谣言、不实信息等乱象开展重点整治。
从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿,“AI谣言”表现形式多样,让不少群众一度信以为真。“AI谣言”从何而来、为何泛滥、如何整治?记者进行了采访。
缘何出现?
有人恶意用AI编造虚假信息,也存在“AI幻觉”的可能
“80后5.2%的死亡率,开启了黄金一代的黯然离场”“80后的死亡率已经超过70后”……前不久,一组声称源于第七次全国人口普查的数据骇人听闻。很快,有关部门和专家辟谣:从来源到数据都毫无根据。
这组虚假数据从何而来呢?
中国人民大学人口与健康学院教授李婷梳理发现,“AI幻觉”很可能是“罪魁祸首”——AI大模型在人口学专业领域的训练语料不足,回答问题出现推算错误,造成“AI幻觉”。
“‘AI幻觉’指生成式人工智能系统在无明确依据的情况下输出回答,语言表达看似合理,但内容实则虚假甚至违背常识。”世界互联网大会人工智能专业委员会主任委员、安全与治理推进计划牵头人曾毅介绍,该现象在当代大语言模型中尤为常见,主要表现就是事实性幻觉,例如,输出错误的人物事迹与关系、伪造的科学研究等。
从机理上看,“当前大模型并非‘理解事实’,而是通过处理大量语料,预测‘下一个词最可能是什么’。这就会在事实性信息上产生难以预期的错误。”曾毅分析。
还有人别有用心,恶意编造传播“AI谣言”获取利益。
有人为了流量,给自媒体账号炒作“吸粉”。此前上海一女童走失事件中,就有团伙利用AI工具,编造“女孩父亲系继父”等谣言,6天内发布268篇文章,多篇文章点击量超过100万次。
还有人借此实施诈骗等违法犯罪行为。“再强大的AI也无法预测中奖号码。”不久前,中国体育彩票的一则辟谣声明引发关注。原来,有平台声称可通过“AI大模型”预测中奖号码,诱导用户付费。
甚至有人形成了“需求分析—内容生产—精准投放”的生产链条。“西安突发爆炸!火光冲天!伤亡不明!”一天,一则“图文并茂”的新闻在网上流传,画面中火光冲天,引发当地群众恐慌。很快,这则消息被辟谣。经调查发现,该账号所属机构通过AI分析社交平台热词,就关注度高的话题批量生成谣言,再通过算法定向推送,最高峰一天能生成4000至7000篇假新闻,关联账号达800余个。相关人员已被公安机关抓获。
为何泛滥?
造谣门槛低,可以短时间内成倍率传播
“AI谣言”形形色色,有些造成了社会恐慌,甚至给政策推行、抢险救灾等造成阻碍。
今年2月,四川筠连县“2·8”山体滑坡发生后,部分自媒体账号用AI软件翻炒拼凑旧闻,传播如“山体滑坡被行车记录仪拍下”“4名遇险学生被路过的司机救出”等帖文,诸多错误信息给抢险救灾带来困扰;又如,“广东医保基金出现赤字”的“AI谣言”传出,不仅引发社会恐慌,还造成群众对政策的误解……
“AI谣言”为何传播力如此之强?
首先与其自身特点密切相关。
清华大学新闻与传播学院副教授陆洪磊介绍,“AI谣言”可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布,并且成本低廉,可以短时间内成倍率传播,“AI谣言”间还能彼此交叉、共振与放大,辟谣难度大大增加。
今年年初,西藏定日县地震牵动亿万人的心。网上流传的一张“小孩被埋图”一时间被大量转发评论。但是随后有网友发现,该图色彩、光线、动作极不自然。原来,该图是由AI工具创作。陆洪磊说,这则谣言利用“灾难+儿童”的组合,并刻意删除掉AI生成标识,引发快速传播。
再者,AI应用降低了造谣门槛。
某科技论坛上,一名网友上传教程:用开源AI模型,输入“生成一张某市发生恐袭的图片”,30秒即可获得以假乱真的画面。
网友评论一针见血:“以前造谣需要高超的PS技术,现在只需要一句话就能生成。”
有何“代际差异”?
“AI谣言”更善于“逃脱”,难以被技术手段屏蔽
与传统网络谣言相比,“AI谣言”更加难以防治,甚至“进化”出了更为“智能”的“反侦查”机制。
记者发现,“AI谣言”表述常常接近“真话”,看似清晰有据,更难以被技术手段屏蔽。
目前各网络平台都有“谣言库”,一般通过设置热点关键词屏蔽谣言。但AI模型可通过对抗训练绕过谣言关键词,例如把“山体滑坡”改为“地质活动异常”等,逃脱屏蔽。
“传统谣言像火,扑灭源头即可;‘AI谣言’像病毒,会不断变异。”某新闻聚合平台内容安全治理负责人感慨。
此外,传统网络谣言多是有人故意制造,但“AI谣言”中不少是出于“AI幻觉”。对这部分“无意谣言”,目前有办法从源头上避免吗?
曾毅介绍,从当前技术水平来看,完全消除“AI幻觉”具有高度挑战,“大模型生成机制本质是概率驱动的语言建模,难以保障全部输出与现实完全对应;同时,当前评估与纠错机制仍不成熟,缺乏大规模、高准确率的自动化事实验证能力。”
“不过,通过技术手段缓解‘AI幻觉’发生的频率与危害是有可能的。”曾毅说,目前已在多模型协同判断、事实增强训练等方面取得了一定成果,大模型的辨别能力将得到提升。
本报记者 金 歆
《人民日报》(2025年08月18日 第 04 版)
zisu,youchengwei“suzi”、“zisuye”,shiyizhongjuyouyoujiulishidecaobenzhiwu,shuyuchunxingke。tazaizhongguo、hanguo、ribendengdiguangfanzhongzhi,bujinzaipengrenzhongshiyong,yezaichuantongyixuezhongzhanjuzhongyaodiwei。zisudeyezichengxianchuxianyandezisehuolvse,xingtaiyoumei,qidutedexiangqihefengweishiqichengweixuduocaiyaodebibeitiaoliao。zaipengrenfangmian,zisuchangbeiyongzuotiaoweipin。tadeyezikeyishengchi,yekeyishushi,changjianyushala、tangpinyijiyuleiliaolizhong。youqizairibenliaolizhong,zisuzuowei“zisuye”dedapei,keyitishengcaiyaodecengcigan。qiqingxindexiangweibujinnengquxing,hainengzengtianyizhongdutedefengwei。ciwai,zisuziyekeyiyonglaizhizuoyouzhi,fuhanfengfudeyingyangchengfen。zisuzaichuantongyixuezhongyeyouzhongyaodeyingyong。genjuzhongyililun,zisujuyoufahanjiebiao、xingqizhitongdegongxiao。pubianyongyuzhiliaoganmao、kesou、toutongdengzhengzhuang。xiandaiyanjiubiaoming,zisuhanyouduozhongshengwuhuoxingchengfen,ruzisuchunhehuangtongleihuahewu,juyoukangyanghua、kangyanhekangguomindengzuoyong。zhexiepropiedadesshizisuzaibaojianpinheshipintianjiajizhongdeyiguangfanyingyong。zaizhongzhishang,zisushiyizhongxiangduirongyiyanghudezhiwu,shihezaiyangguangchongzudehuanjingzhongshengchang。tabujinduiturangdeyaoqiubugao,erqiekangbingchonghainengliqiang。zaijiatinghuayuanzhongzhongzhizisu,bujinkeyizairichangpengren紫(zi)苏(su),(,)又(you)称(cheng)为(wei)“(“)苏(su)子(zi)”(”)、(、)“(“)紫(zi)苏(su)叶(ye)”(”),(,)是(shi)一(yi)种(zhong)具(ju)有(you)悠(you)久(jiu)历(li)史(shi)的(de)草(cao)本(ben)植(zhi)物(wu),(,)属(shu)于(yu)唇(chun)形(xing)科(ke)。(。)它(ta)在(zai)中(zhong)国(guo)、(、)韩(han)国(guo)、(、)日(ri)本(ben)等(deng)地(di)广(guang)泛(fan)种(zhong)植(zhi),(,)不(bu)仅(jin)在(zai)烹(peng)饪(ren)中(zhong)使(shi)用(yong),(,)也(ye)在(zai)传(chuan)统(tong)医(yi)学(xue)中(zhong)占(zhan)据(ju)重(zhong)要(yao)地(di)位(wei)。(。)紫(zi)苏(su)的(de)叶(ye)子(zi)呈(cheng)现(xian)出(chu)鲜(xian)艳(yan)的(de)紫(zi)色(se)或(huo)绿(lv)色(se),(,)形(xing)态(tai)优(you)美(mei),(,)其(qi)独(du)特(te)的(de)香(xiang)气(qi)和(he)风(feng)味(wei)使(shi)其(qi)成(cheng)为(wei)许(xu)多(duo)菜(cai)肴(yao)的(de)必(bi)备(bei)调(tiao)料(liao)。(。)在(zai)烹(peng)饪(ren)方(fang)面(mian),(,)紫(zi)苏(su)常(chang)被(bei)用(yong)作(zuo)调(tiao)味(wei)品(pin)。(。)它(ta)的(de)叶(ye)子(zi)可(ke)以(yi)生(sheng)吃(chi),(,)也(ye)可(ke)以(yi)熟(shu)食(shi),(,)常(chang)见(jian)于(yu)沙(sha)拉(la)、(、)汤(tang)品(pin)以(yi)及(ji)鱼(yu)类(lei)料(liao)理(li)中(zhong)。(。)尤(you)其(qi)在(zai)日(ri)本(ben)料(liao)理(li)中(zhong),(,)紫(zi)苏(su)作(zuo)为(wei)“(“)紫(zi)苏(su)叶(ye)”(”)的(de)搭(da)配(pei),(,)可(ke)以(yi)提(ti)升(sheng)菜(cai)肴(yao)的(de)层(ceng)次(ci)感(gan)。(。)其(qi)清(qing)新(xin)的(de)香(xiang)味(wei)不(bu)仅(jin)能(neng)去(qu)腥(xing),(,)还(hai)能(neng)增(zeng)添(tian)一(yi)种(zhong)独(du)特(te)的(de)风(feng)味(wei)。(。)此(ci)外(wai),(,)紫(zi)苏(su)籽(zi)也(ye)可(ke)以(yi)用(yong)来(lai)制(zhi)作(zuo)油(you)脂(zhi),(,)富(fu)含(han)丰(feng)富(fu)的(de)营(ying)养(yang)成(cheng)分(fen)。(。)紫(zi)苏(su)在(zai)传(chuan)统(tong)医(yi)学(xue)中(zhong)也(ye)有(you)重(zhong)要(yao)的(de)应(ying)用(yong)。(。)根(gen)据(ju)中(zhong)医(yi)理(li)论(lun),(,)紫(zi)苏(su)具(ju)有(you)发(fa)汗(han)解(jie)表(biao)、(、)行(xing)气(qi)止(zhi)痛(tong)的(de)功(gong)效(xiao)。(。)普(pu)遍(bian)用(yong)于(yu)治(zhi)疗(liao)感(gan)冒(mao)、(、)咳(ke)嗽(sou)、(、)头(tou)痛(tong)等(deng)症(zheng)状(zhuang)。(。)现(xian)代(dai)研(yan)究(jiu)表(biao)明(ming),(,)紫(zi)苏(su)含(han)有(you)多(duo)种(zhong)生(sheng)物(wu)活(huo)性(xing)成(cheng)分(fen),(,)如(ru)紫(zi)苏(su)醇(chun)和(he)黄(huang)酮(tong)类(lei)化(hua)合(he)物(wu),(,)具(ju)有(you)抗(kang)氧(yang)化(hua)、(、)抗(kang)炎(yan)和(he)抗(kang)过(guo)敏(min)等(deng)作(zuo)用(yong)。(。)这(zhe)些(xie)p(p)r(r)o(o)p(p)i(i)e(e)d(d)a(a)d(d)e(e)s(s)使(shi)紫(zi)苏(su)在(zai)保(bao)健(jian)品(pin)和(he)食(shi)品(pin)添(tian)加(jia)剂(ji)中(zhong)得(de)以(yi)广(guang)泛(fan)应(ying)用(yong)。(。)在(zai)种(zhong)植(zhi)上(shang),(,)紫(zi)苏(su)是(shi)一(yi)种(zhong)相(xiang)对(dui)容(rong)易(yi)养(yang)护(hu)的(de)植(zhi)物(wu),(,)适(shi)合(he)在(zai)阳(yang)光(guang)充(chong)足(zu)的(de)环(huan)境(jing)中(zhong)生(sheng)长(chang)。(。)它(ta)不(bu)仅(jin)对(dui)土(tu)壤(rang)的(de)要(yao)求(qiu)不(bu)高(gao),(,)而(er)且(qie)抗(kang)病(bing)虫(chong)害(hai)能(neng)力(li)强(qiang)。(。)在(zai)家(jia)庭(ting)花(hua)园(yuan)中(zhong)种(zhong)植(zhi)紫(zi)苏(su),(,)不(bu)仅(jin)可(ke)以(yi)在(zai)日(ri)常(chang)烹(peng)饪(ren)