AI是击穿网络安全的矛?还是守护网络安全的盾?|麻豆高清免费国产一区
中新网9月21日电(记者 吴家驹)AI是击穿网络安全的矛?还是守护网络安全的盾?
近日,2025年国家网络安全宣传周在昆明开幕,多位网络安全专家在接受中新网采访时,谈及AI给网络安全带来的新风险和新机遇。
360数字安全集团总裁胡振泉认为,AI的安全问题无比复杂,和传统的网络安全问题有着非常大的不同,其中包括:AI生成内容本身的安全性、AI幻觉、提示词注入攻击等问题。
胡振泉进一步表示,当AI变成智能体后,会负责规划很多任务,而如果AI智能体规划的任务执行到很多步后,再发生错乱、随意调度的问题,情况将更加复杂,这是传统网络安全手段无法解决的问题。
天融信科技集团助理总裁张博表示,如今一些大模型被攻击,大模型算法或数据发生泄露,都暴露了大模型在训练、部署、使用等阶段,存在着一定的安全风险。同时,AI降低了网络攻击的门槛,很多攻击者会使用AI,来提升攻击的频度、强度、效率。
奇安信集团副总裁李虎也表示,目前已出现许多用于攻击的AI智能体,甚至已经开始对外提供服务。如果黑客组织使用AI发起攻击,成本会更低,而且更具不可控性。现在大模型的应用越来越广泛,涉及社会生活的方方面面,如果AI的安全性出现问题,将产生非常大的危害。
在南方电网公司数字化部副总经理禤亮看来,AI需要慢慢培育。在培育的过程中,如果数据出现问题,一方面可能导致AI智能体的反应速度下降,另一方面,可能导致AI作出的判断存在误差,这对电网企业和新型电力系统来说是致命的。
AI时代,如何应对网络安全挑战?
张博表示,目前AI赋能网络安全,是行业中非常重要的一个研究方向,国内外不少安全公司都在探索AI与安全技术的结合。例如,把大模型融入到安全设备中,与安全平台和云端安全服务进行联动,形成端侧云端协同的基于大模型的智能化运营体系。
“传统的网络安全软件由人编写,而大模型的智力超过人类,因此应该‘以模制模’,即用大模型来解决大模型的安全问题。”胡振泉认为,应该有专门负责安全的大模型,来监督做业务的大模型,并处理其在做业务过程面临的一系列安全问题,大模型的发展应遵循“安全、向善、可信、可控”的原则。
在李虎看来,我们可以构建大模型的安全“红域”,把大模型训练、微调、应用等各个环节,都纳入到红域中心统一管控,然后再进行区隔化管理,把每个区域分而治之,收缩风险边界。同时,我们需要对大模型的提示词、标注数据、知识库数据等,进行监测和审计。
禤亮表示,为防止AI在应用层面出现偏差,需要有良好的数据治理基础,形成高质量的数据集。同时,需要有专门的团队负责监测AI,并构建监测机制,来使AI朝着我们希望的方向发展。(完)
waiyinsaoyangshiyizhongchangjiandelinchuangzhengzhuang,tongchangzhinvxingwaiyinbuweipifudesaoyanggan。takenengshiyizhongdulidezhengzhuang,yekenengbansuiqitabingzheng。waiyinsaoyangbujinhuigeinvxingderichangshenghuodailaibushi,haikenengyingxiangxinlijiankangheshenghuozhiliang。waiyinsaoyangdeyuanyinduozhongduoyang,changjiandebaokuoganran、guomin、pifubingjiqitaxitongxingjibing。zhenjunganran,ruyindaonianzhujunganran,tongchangshidaozhiwaiyinsaoyangdezhuyaoyuanyinzhiyi。gaiganranchangbanyoufenmiwuzengduo、baiseningruzhuangfenmiwuheyindaozhuoregan。ciwai,xijunxingyindaoyan、xingchuanboganran(rushengzhiqipaozhenherenrutouliubingdu)yekenengdaozhiwaiyinsaoyang。chuleganran,waiyinsaoyanghaikenengyouguominfanyingyinqi。liru,yixienvxingduiweishengjin、xidiji、xiangzaohuoqitawaiyongchanpinzhongdehuaxuechengfenmingan,zhexiewuzhikenengyinqijubupifudecijihesaoyang。tangniaobing、ganzangjibinghejiazhuangxiangongnengyichangdengxitongxingjibingyekenengdaozhiwaiyinquyudesaoyang。zaichuliwaiyinsaoyangshi,shouxianxumingquebingyin。jianyinvxingyaoquyiyuanhuozhuanyejigoujiuzhen,youzhuanyeyishengjinxingjianzhahezhenduan。yishengkenenghuigenjuzhengzhuang,jinxingtijianheshiyanshijianzha,yiquedingshifoucunzaiganranhuoqitabingliqingkuang。duiyuqingweidewaiyinsaoyang,baochiwaiyinbuqingjieheganzaoshihenzhongyaode,xuanzewenhe、wuxiangliaodeqingjiechanpin,bimianshiyongcijixingdexi外(wai)阴(yin)瘙(sao)痒(yang)是(shi)一(yi)种(zhong)常(chang)见(jian)的(de)临(lin)床(chuang)症(zheng)状(zhuang),(,)通(tong)常(chang)指(zhi)女(nv)性(xing)外(wai)阴(yin)部(bu)位(wei)皮(pi)肤(fu)的(de)瘙(sao)痒(yang)感(gan)。(。)它(ta)可(ke)能(neng)是(shi)一(yi)种(zhong)独(du)立(li)的(de)症(zheng)状(zhuang),(,)也(ye)可(ke)能(neng)伴(ban)随(sui)其(qi)他(ta)病(bing)症(zheng)。(。)外(wai)阴(yin)瘙(sao)痒(yang)不(bu)仅(jin)会(hui)给(gei)女(nv)性(xing)的(de)日(ri)常(chang)生(sheng)活(huo)带(dai)来(lai)不(bu)适(shi),(,)还(hai)可(ke)能(neng)影(ying)响(xiang)心(xin)理(li)健(jian)康(kang)和(he)生(sheng)活(huo)质(zhi)量(liang)。(。)外(wai)阴(yin)瘙(sao)痒(yang)的(de)原(yuan)因(yin)多(duo)种(zhong)多(duo)样(yang),(,)常(chang)见(jian)的(de)包(bao)括(kuo)感(gan)染(ran)、(、)过(guo)敏(min)、(、)皮(pi)肤(fu)病(bing)及(ji)其(qi)他(ta)系(xi)统(tong)性(xing)疾(ji)病(bing)。(。)真(zhen)菌(jun)感(gan)染(ran),(,)如(ru)阴(yin)道(dao)念(nian)珠(zhu)菌(jun)感(gan)染(ran),(,)通(tong)常(chang)是(shi)导(dao)致(zhi)外(wai)阴(yin)瘙(sao)痒(yang)的(de)主(zhu)要(yao)原(yuan)因(yin)之(zhi)一(yi)。(。)该(gai)感(gan)染(ran)常(chang)伴(ban)有(you)分(fen)泌(mi)物(wu)增(zeng)多(duo)、(、)白(bai)色(se)凝(ning)乳(ru)状(zhuang)分(fen)泌(mi)物(wu)和(he)阴(yin)道(dao)灼(zhuo)热(re)感(gan)。(。)此(ci)外(wai),(,)细(xi)菌(jun)性(xing)阴(yin)道(dao)炎(yan)、(、)性(xing)传(chuan)播(bo)感(gan)染(ran)((()如(ru)生(sheng)殖(zhi)器(qi)疱(pao)疹(zhen)和(he)人(ren)乳(ru)头(tou)瘤(liu)病(bing)毒(du))())也(ye)可(ke)能(neng)导(dao)致(zhi)外(wai)阴(yin)瘙(sao)痒(yang)。(。)除(chu)了(le)感(gan)染(ran),(,)外(wai)阴(yin)瘙(sao)痒(yang)还(hai)可(ke)能(neng)由(you)过(guo)敏(min)反(fan)应(ying)引(yin)起(qi)。(。)例(li)如(ru),(,)一(yi)些(xie)女(nv)性(xing)对(dui)卫(wei)生(sheng)巾(jin)、(、)洗(xi)涤(di)剂(ji)、(、)香(xiang)皂(zao)或(huo)其(qi)他(ta)外(wai)用(yong)产(chan)品(pin)中(zhong)的(de)化(hua)学(xue)成(cheng)分(fen)敏(min)感(gan),(,)这(zhe)些(xie)物(wu)质(zhi)可(ke)能(neng)引(yin)起(qi)局(ju)部(bu)皮(pi)肤(fu)的(de)刺(ci)激(ji)和(he)瘙(sao)痒(yang)。(。)糖(tang)尿(niao)病(bing)、(、)肝(gan)脏(zang)疾(ji)病(bing)和(he)甲(jia)状(zhuang)腺(xian)功(gong)能(neng)异(yi)常(chang)等(deng)系(xi)统(tong)性(xing)疾(ji)病(bing)也(ye)可(ke)能(neng)导(dao)致(zhi)外(wai)阴(yin)区(qu)域(yu)的(de)瘙(sao)痒(yang)。(。)在(zai)处(chu)理(li)外(wai)阴(yin)瘙(sao)痒(yang)时(shi),(,)首(shou)先(xian)需(xu)明(ming)确(que)病(bing)因(yin)。(。)建(jian)议(yi)女(nv)性(xing)要(yao)去(qu)医(yi)院(yuan)或(huo)专(zhuan)业(ye)机(ji)构(gou)就(jiu)诊(zhen),(,)由(you)专(zhuan)业(ye)医(yi)生(sheng)进(jin)行(xing)检(jian)查(zha)和(he)诊(zhen)断(duan)。(。)医(yi)生(sheng)可(ke)能(neng)会(hui)根(gen)据(ju)症(zheng)状(zhuang),(,)进(jin)行(xing)体(ti)检(jian)和(he)实(shi)验(yan)室(shi)检(jian)查(zha),(,)以(yi)确(que)定(ding)是(shi)否(fou)存(cun)在(zai)感(gan)染(ran)或(huo)其(qi)他(ta)病(bing)理(li)情(qing)况(kuang)。(。)对(dui)于(yu)轻(qing)微(wei)的(de)外(wai)阴(yin)瘙(sao)痒(yang),(,)保(bao)持(chi)外(wai)阴(yin)部(bu)清(qing)洁(jie)和(he)干(gan)燥(zao)是(shi)很(hen)重(zhong)要(yao)的(de),(,)选(xuan)择(ze)温(wen)和(he)、(、)无(wu)香(xiang)料(liao)的(de)清(qing)洁(jie)产(chan)品(pin),(,)避(bi)免(mian)使(shi)用(yong)刺(ci)激(ji)性(xing)的(de)洗(xi)