看AI攻防博弈:技术升级、人才仍缺|青青草视频在线观看
中新网北京9月29日电 (陶思阅)今年9月,第22届国家网络安全宣传周网络安全协同防御分论坛活动中,国内首次针对AI大模型的实网众测检验结果发布。测试累计发现281个安全漏洞,其中大模型特有漏洞占比超60%,涵盖提示注入、信息泄露等典型风险。
同时,攻击者研究AI的学习偏好,有针对性地“投喂”信息,更有甚者,有组织地进行“数据投毒”,即通过伪造专家身份、虚构研究报告等方式,向AI输入虚假信息,以达到操纵AI输出结果的目的。
同盾科技安全研究院院长董纪伟认为,随着生成式AI技术的广泛运用,未来的攻防战将迈入“以技术对抗技术,以AI对抗AI”的阶段。
面对挑战,监管体系率先升级。9月15日,《人工智能安全治理框架》2.0版在国家网络安全宣传周发布。
AI安全行业也正构建“AI对抗AI”的技术防线。9月,华为发布全新升级的星河AI网络安全解决方案,据介绍,该方案威胁自动化处置率达99%,未知威胁检出率达95%。
蚂蚁消金通过多模态感知与大小模型协同,系统可精准识别假章假证、合成语音等造假行为。蚂蚁消金首席信息官刘义介绍,目前,虚假证件识别准确率达98%,语音伪造检测覆盖50余种合成方式,2024年以来,蚂蚁消金已联合司法机关查处12家非法金融中介,涉案人员超过200人,实现了技术治理与司法联动的有效结合。
近日,绿盟科技发布新的大模型安全评估系统,实现对140余款主流模型的自动化深度扫描,精准发现内容安全、对抗攻击、数据泄露及组件漏洞等风险,并能够出具符合国家《生成式人工智能服务安全基本要求》的评估报告。
今年9月发布的《AI时代网络安全产业人才发展报告(2025)》显示,2025年全球网络安全人才缺口升至480万,同比增长19%;其中美国需求51.4万个在线岗位,实际填补率不足三分之二。
中国方面,截至2024年底全国持证在岗人员约32万,已有792所普通高校开设网络安全专业,占高校总数27.1%;其中65.9%已在2025年新增AI安全课程,较去年跃升15个百分点。(完)
6yue13ri、14ri,henanduodifaburengongzengyugonggao。tixing:renhezuzhihegerenruofaxianweibaozhahuobaozhabuwanquandantou、danyaosuipianhuohuojiandancanhai,qiewushanziyidong、zangni、chaijiehesunhuideng,qinglijibaogaodangdizhengfuhuorengongyingxiangtianqiyouguanbumen,huozhelijiboda110xiangdangdigonganbumenbaojing。6(6)月(yue)1(1)3(3)日(ri)、(、)1(1)4(4)日(ri),(,)河(he)南(nan)多(duo)地(di)发(fa)布(bu)人(ren)工(gong)增(zeng)雨(yu)公(gong)告(gao)。(。)提(ti)醒(xing):(:)任(ren)何(he)组(zu)织(zhi)和(he)个(ge)人(ren)若(ruo)发(fa)现(xian)未(wei)爆(bao)炸(zha)或(huo)爆(bao)炸(zha)不(bu)完(wan)全(quan)弹(dan)头(tou)、(、)弹(dan)药(yao)碎(sui)片(pian)或(huo)火(huo)箭(jian)弹(dan)残(can)骸(hai),(,)切(qie)勿(wu)擅(shan)自(zi)移(yi)动(dong)、(、)藏(zang)匿(ni)、(、)拆(chai)解(jie)和(he)损(sun)毁(hui)等(deng),(,)请(qing)立(li)即(ji)报(bao)告(gao)当(dang)地(di)政(zheng)府(fu)或(huo)人(ren)工(gong)影(ying)响(xiang)天(tian)气(qi)有(you)关(guan)部(bu)门(men),(,)或(huo)者(zhe)立(li)即(ji)拨(bo)打(da)1(1)1(1)0向(xiang)当(dang)地(di)公(gong)安(an)部(bu)门(men)报(bao)警(jing)。(。)