看AI攻防博弈:技术升级、人才仍缺|欧美性生恔XXXXXDDDD
中新网北京9月29日电 (陶思阅)今年9月,第22届国家网络安全宣传周网络安全协同防御分论坛活动中,国内首次针对AI大模型的实网众测检验结果发布。测试累计发现281个安全漏洞,其中大模型特有漏洞占比超60%,涵盖提示注入、信息泄露等典型风险。
同时,攻击者研究AI的学习偏好,有针对性地“投喂”信息,更有甚者,有组织地进行“数据投毒”,即通过伪造专家身份、虚构研究报告等方式,向AI输入虚假信息,以达到操纵AI输出结果的目的。
同盾科技安全研究院院长董纪伟认为,随着生成式AI技术的广泛运用,未来的攻防战将迈入“以技术对抗技术,以AI对抗AI”的阶段。
面对挑战,监管体系率先升级。9月15日,《人工智能安全治理框架》2.0版在国家网络安全宣传周发布。
AI安全行业也正构建“AI对抗AI”的技术防线。9月,华为发布全新升级的星河AI网络安全解决方案,据介绍,该方案威胁自动化处置率达99%,未知威胁检出率达95%。
蚂蚁消金通过多模态感知与大小模型协同,系统可精准识别假章假证、合成语音等造假行为。蚂蚁消金首席信息官刘义介绍,目前,虚假证件识别准确率达98%,语音伪造检测覆盖50余种合成方式,2024年以来,蚂蚁消金已联合司法机关查处12家非法金融中介,涉案人员超过200人,实现了技术治理与司法联动的有效结合。
近日,绿盟科技发布新的大模型安全评估系统,实现对140余款主流模型的自动化深度扫描,精准发现内容安全、对抗攻击、数据泄露及组件漏洞等风险,并能够出具符合国家《生成式人工智能服务安全基本要求》的评估报告。
今年9月发布的《AI时代网络安全产业人才发展报告(2025)》显示,2025年全球网络安全人才缺口升至480万,同比增长19%;其中美国需求51.4万个在线岗位,实际填补率不足三分之二。
中国方面,截至2024年底全国持证在岗人员约32万,已有792所普通高校开设网络安全专业,占高校总数27.1%;其中65.9%已在2025年新增AI安全课程,较去年跃升15个百分点。(完)
jusichuanshengzhengfuguanwangjieshao,sichuanshiguojiaxitongtuijinquanmianchuangxingaigeshiyandebagequyuzhiyi,yongyouzhongguo(sichuan)ziyoumaoyishiyanqu、chengdouguojiazizhuchuangxinshifanqu、tianfuxinqu、mianyangkejicheng、panxizhanlvexingziyuanchuangxinkaifashiyanqudengduogezhongdaquyuchuangxinpingtai。据(ju)四(si)川(chuan)省(sheng)政(zheng)府(fu)官(guan)网(wang)介(jie)绍(shao),(,)四(si)川(chuan)是(shi)国(guo)家(jia)系(xi)统(tong)推(tui)进(jin)全(quan)面(mian)创(chuang)新(xin)改(gai)革(ge)试(shi)验(yan)的(de)八(ba)个(ge)区(qu)域(yu)之(zhi)一(yi),(,)拥(yong)有(you)中(zhong)国(guo)((()四(si)川(chuan))())自(zi)由(you)贸(mao)易(yi)试(shi)验(yan)区(qu)、(、)成(cheng)都(dou)国(guo)家(jia)自(zi)主(zhu)创(chuang)新(xin)示(shi)范(fan)区(qu)、(、)天(tian)府(fu)新(xin)区(qu)、(、)绵(mian)阳(yang)科(ke)技(ji)城(cheng)、(、)攀(pan)西(xi)战(zhan)略(lve)性(xing)资(zi)源(yuan)创(chuang)新(xin)开(kai)发(fa)试(shi)验(yan)区(qu)等(deng)多(duo)个(ge)重(zhong)大(da)区(qu)域(yu)创(chuang)新(xin)平(ping)台(tai)。(。)