小污染造成大危害!警惕AI数据污染引发现实风险|乌克兰丰满女人aa片

  随着AI人工智能技术和应用的蓬勃发展,各类AI工具已经成为我们日常工作和生活的助手,不知不觉间,我们的生活开始与人工智能密切联系。

  当AI信息“不靠谱”网民如何断真假?

  不过近年来,不少网民发现,部分人工智能的回答开始有些不靠谱。先看两个案例:

  今年上半年,宁波发生了两件事,被人工智能荒唐地联系在一起。

  第一件事是,2月6日宁波警方注销了“宁波交警”抖音号。第二件事是,三个月后的5月2日,在浙江宁波余姚境内的省道嘉余线上,一辆未悬挂车牌的轿车在违法超车过程中撞倒一辆摩托车。小车驾驶人并未第一时间检查伤者受伤情况,而是从后备厢里拿出车牌进行安装。

  当网民询问AI软件2月6日宁波交警抖音号为何注销时,人工智能给出的答案竟然是“主要与5月2日的这起交通事故引发广泛关注有关”的结论。2月份发生的账户注销的原因竟然是3个月后发生的一起交通事故。人工智能的这一回答引起了网民广泛关注,宁波交警随后进行了紧急辟谣。

  去年有网民询问一款儿童手表AI软件,“中国人是世界上最聪明的人吗?”人工智能给出的回答竟是否定中国发明创造、否定中国文化的答案。这一荒唐的回答,在网络上引起轩然大波。儿童手表的厂家随后紧急道歉,称已经修正了相关数据,删除了不良信息源。

  近年来,AI杜撰的信息更是数不胜数,杜撰不存在的论文以及论文的作者、网址等。AI更是成了谣言类信息的帮凶,游船侧翻、幼儿园大火等谣言都可以帮网民编造出来。

  当AI数据被污染有何风险?如何防范?

  刚才提到的案例,与人工智能的数据污染有着或多或少的联系。通俗来讲,如果把AI比喻成食物的话,训练数据就相当于食材,食材腐败变质,最终生产出来的食物就会有问题。

  人工智能的三大核心要素是算法、算力和数据,其中数据是训练AI模型的基础要素,也是AI应用的核心资源。一旦数据受到污染,就可能导致模型决策失误甚至AI系统失效,存在一定的安全隐患。

  什么是AI数据污染?分几类?

  近日,国家安全部门发布提示,通过篡改、虚构和重复等“数据投毒”行为产生的污染数据,将干扰模型在训练阶段的参数调整,降低其准确性,甚至诱发有害输出。

  那么究竟什么是AI数据污染,数据污染分为哪几类?

  网络安全专家 曹辉:数据投毒主要针对两个方面,一个是针对视觉类,一个是针对自然语言处理类。这张图片是一个斑马识别人工智能系统的训练数据。我们看到,在这张照片上很多斑马进行了标注。如何进行数据污染?就是在其中的一匹斑马身上加一个绿点。加了绿点的斑马,特意不进行标注。这样的训练数据大概会有几万张,在这几万张训练数据里面的其中三四张进行类似的污染处理,就会导致生成的人工智能模型带有后门,就会导致当它再见到类似身体上有绿点的斑马,它就不会认为这是个斑马,就导致了AI模型的判断受到干扰。

  专家介绍,人工智能数据污染分为两类:

  一种是人为主观恶意去篡改数据,误导人工智能的输出结果;

  另一种是人工智能本身会海量的收集网络的庞大数据,其中不良信息如果没有被甄别删除掉,而是当作可以信任的信息源加入算力中,输出的结果同样不可信任。

  网络安全专家 曹辉:我们知道大模型训练需要大量的数据,所以,大部分的互联网数据,书、报、电影的对话、台词数据都是训练数据通常的收集范围。其实我们都有可能在互联网上发一些数据,一旦这些数据是不安全的、被污染的,那可能大模型也会随之受到影响。

  人工智能数据 为何小污染会造成大危害?

  国家安全部数据显示,AI在训练过程中,即使是0.001%的虚假文本被采用,其有害输出也会相应上升7.2%。为何小小的污染源输出时的危害会几何级数的上升呢?

  专家介绍,被污染的数据有着明显地与其他数据不同的观点和内容,这种情况下,AI很可能将污染数据标记为“有特点和高信息量”,并增加在算力中使用的比例。

  中国网络空间安全协会人工智能安全治理专业委员会委员 薛智慧:大语言模型本质上是一种统计语言模型,使用的多层神经网络架构具有高度的非线性特征。在模型训练阶段,如果训练数据集中混入了污染数据,模型可能误将污染数据判定为“有特点、有代表性、高信息量”的内容,这种错觉就会使模型提高污染数据整体在数据集当中的重要性,最终导致少量的污染数据也能对模型权重产生微小影响。而当模型输出内容时,这种微小的影响会在神经网络架构的多层传播中被逐层放大,最终导致输出结果出现明显偏差。

  数据污染可能引发一系列现实风险

  另外,AI数据污染还可能在金融、公共安全等领域引发一系列现实风险。

  中国网络空间安全协会人工智能安全治理专业委员会委员 薛智慧:比如在经济金融领域,一旦数据受到污染,一些市场行为分析、信用风险评估、异常交易监控等工作就可能出现判断和决策错误,进而造成直接的经济损失。而在社会舆论方面,数据污染会破坏信息的真实性,让民众难以辨别信息的真伪,这就可能会引发社会舆论风险。

  加强源头监管 防范污染生成

  针对AI数据污染,从国家安全层面,我们应该如何防范风险?专家表示,应加强源头监管,防范污染生成。

  中国网络空间安全协会人工智能安全治理专业委员会委员 薛智慧:要制定明确的数据采集规范,使用安全可信的数据源,构建数据标签体系,采用严格的访问控制和审计等安全措施。

  其次,可以使用自动化工具、人工审查以及AI算法相结合的方式,对数据不一致性、格式错误、语法语义冲突等问题进行分析和处理。

  安全机关此前针对AI数据污染也提示,要定期依据法规标准清洗修复受污数据,逐步构建模块化、可监测、可扩展的数据治理框架,实现持续管理与质量把控。

  对于广大网友而言,我们在日常生活和工作中,又应该如何防范AI数据污染的风险呢?

  网警提醒:

  一是使用正规平台和企业提供的AI工具;

  二是科学合理地使用AI工具,AI产生的结果可以参考,但不能盲信;

  三是注意保护个人信息,避免不必要的个人隐私暴露,同时不作不良信息的投喂者,共同守护网络家园。

suizhekouqiangjiankangyishidetisheng,yuelaiyueduoderenkaishiguanzhuyachiqueshihoudexiufuwenti。qizhong,zhongzhiyayinqiyouliangdegongnengxinghemeiguanxingshoudaoguangfanqinglai。raner,xuduorenzaikaolvzhongzhiyashi,shouxianxiangdaodebianshi“zhongzhiyayikeduoshaoqian”。duici,worenwei,danchuncongjiagejiaodulaikanzhongzhiyabingbuquanmian,womengengyingguanzhuqichangqijiazhihezonghexiaoyi。shouxian,zhongzhiyadejiagetongchangzaijiqiandaoshangwanyuanbudeng,zhebujinshoudaodiqu、yiyuandengjiheyishengzizhideyingxiang,haiyusuoshiyongdecailiaohejishuyouguan。raner,zhongzhiyabingfeiyicixingtouzi,tadeshoumingtongchangkeda10nianyishang,shenzhigengchang。congzhegejiaodukaolv,zhongzhiyademeinianchengbenshijishangshixiangduijiaodide。yuqitaxiufufangshixiangbi,ruhuodongyichihuogudingqiao,zhongzhiyabujinzaiwaiguanshanggengjiejintianranyachi,qishiyongtiyanyegengjiashushi,ziran。qici,zhongzhiyanenggouyouxiaofangzhiguzhiliushi,baochimianbulunkuodewanzhengxing。yachiqueshihou,zhouweideguzuzhihuizhujianxishou,daozhimianbuchuxianaoxian,yingxiangmeiguan。zhezhongqingkuangxia,zhongzhiyabujinhuifulejujiaogongneng,yeqidaolebaohumianbujiegoudezuoyong。yinci,zhongzhiyasuodailaidechangqixiaoguoshiqijiagesuowufajiandanhengliangde。ciwai,zhongzhiyaduitishengshenghuozhiliangdegongxianbukehushi。yachidequeshibujinyingxiangyinshi,gengkenengdailaizixinxindexiajiang。yongyoujiankang、zhengqideyachiyouzhuyushejiaohezhiyefazhan。erzheyidian,wangwangshijinqianwufahengliangde。zongshangsuoshu,suiranzhongzhiyadejiagebufei,dancongchangqixiao随(sui)着(zhe)口(kou)腔(qiang)健(jian)康(kang)意(yi)识(shi)的(de)提(ti)升(sheng),(,)越(yue)来(lai)越(yue)多(duo)的(de)人(ren)开(kai)始(shi)关(guan)注(zhu)牙(ya)齿(chi)缺(que)失(shi)后(hou)的(de)修(xiu)复(fu)问(wen)题(ti)。(。)其(qi)中(zhong),(,)种(zhong)植(zhi)牙(ya)因(yin)其(qi)优(you)良(liang)的(de)功(gong)能(neng)性(xing)和(he)美(mei)观(guan)性(xing)受(shou)到(dao)广(guang)泛(fan)青(qing)睐(lai)。(。)然(ran)而(er),(,)许(xu)多(duo)人(ren)在(zai)考(kao)虑(lv)种(zhong)植(zhi)牙(ya)时(shi),(,)首(shou)先(xian)想(xiang)到(dao)的(de)便(bian)是(shi)“(“)种(zhong)植(zhi)牙(ya)一(yi)颗(ke)多(duo)少(shao)钱(qian)”(”)。(。)对(dui)此(ci),(,)我(wo)认(ren)为(wei),(,)单(dan)纯(chun)从(cong)价(jia)格(ge)角(jiao)度(du)来(lai)看(kan)种(zhong)植(zhi)牙(ya)并(bing)不(bu)全(quan)面(mian),(,)我(wo)们(men)更(geng)应(ying)关(guan)注(zhu)其(qi)长(chang)期(qi)价(jia)值(zhi)和(he)综(zong)合(he)效(xiao)益(yi)。(。)首(shou)先(xian),(,)种(zhong)植(zhi)牙(ya)的(de)价(jia)格(ge)通(tong)常(chang)在(zai)几(ji)千(qian)到(dao)上(shang)万(wan)元(yuan)不(bu)等(deng),(,)这(zhe)不(bu)仅(jin)受(shou)到(dao)地(di)区(qu)、(、)医(yi)院(yuan)等(deng)级(ji)和(he)医(yi)生(sheng)资(zi)质(zhi)的(de)影(ying)响(xiang),(,)还(hai)与(yu)所(suo)使(shi)用(yong)的(de)材(cai)料(liao)和(he)技(ji)术(shu)有(you)关(guan)。(。)然(ran)而(er),(,)种(zhong)植(zhi)牙(ya)并(bing)非(fei)一(yi)次(ci)性(xing)投(tou)资(zi),(,)它(ta)的(de)寿(shou)命(ming)通(tong)常(chang)可(ke)达(da)1(1)0年(nian)以(yi)上(shang),(,)甚(shen)至(zhi)更(geng)长(chang)。(。)从(cong)这(zhe)个(ge)角(jiao)度(du)考(kao)虑(lv),(,)种(zhong)植(zhi)牙(ya)的(de)每(mei)年(nian)成(cheng)本(ben)实(shi)际(ji)上(shang)是(shi)相(xiang)对(dui)较(jiao)低(di)的(de)。(。)与(yu)其(qi)他(ta)修(xiu)复(fu)方(fang)式(shi)相(xiang)比(bi),(,)如(ru)活(huo)动(dong)义(yi)齿(chi)或(huo)固(gu)定(ding)桥(qiao),(,)种(zhong)植(zhi)牙(ya)不(bu)仅(jin)在(zai)外(wai)观(guan)上(shang)更(geng)接(jie)近(jin)天(tian)然(ran)牙(ya)齿(chi),(,)其(qi)使(shi)用(yong)体(ti)验(yan)也(ye)更(geng)加(jia)舒(shu)适(shi),(,)自(zi)然(ran)。(。)其(qi)次(ci),(,)种(zhong)植(zhi)牙(ya)能(neng)够(gou)有(you)效(xiao)防(fang)止(zhi)骨(gu)质(zhi)流(liu)失(shi),(,)保(bao)持(chi)面(mian)部(bu)轮(lun)廓(kuo)的(de)完(wan)整(zheng)性(xing)。(。)牙(ya)齿(chi)缺(que)失(shi)后(hou),(,)周(zhou)围(wei)的(de)骨(gu)组(zu)织(zhi)会(hui)逐(zhu)渐(jian)吸(xi)收(shou),(,)导(dao)致(zhi)面(mian)部(bu)出(chu)现(xian)凹(ao)陷(xian),(,)影(ying)响(xiang)美(mei)观(guan)。(。)这(zhe)种(zhong)情(qing)况(kuang)下(xia),(,)种(zhong)植(zhi)牙(ya)不(bu)仅(jin)恢(hui)复(fu)了(le)咀(ju)嚼(jiao)功(gong)能(neng),(,)也(ye)起(qi)到(dao)了(le)保(bao)护(hu)面(mian)部(bu)结(jie)构(gou)的(de)作(zuo)用(yong)。(。)因(yin)此(ci),(,)种(zhong)植(zhi)牙(ya)所(suo)带(dai)来(lai)的(de)长(chang)期(qi)效(xiao)果(guo)是(shi)其(qi)价(jia)格(ge)所(suo)无(wu)法(fa)简(jian)单(dan)衡(heng)量(liang)的(de)。(。)此(ci)外(wai),(,)种(zhong)植(zhi)牙(ya)对(dui)提(ti)升(sheng)生(sheng)活(huo)质(zhi)量(liang)的(de)贡(gong)献(xian)不(bu)可(ke)忽(hu)视(shi)。(。)牙(ya)齿(chi)的(de)缺(que)失(shi)不(bu)仅(jin)影(ying)响(xiang)饮(yin)食(shi),(,)更(geng)可(ke)能(neng)带(dai)来(lai)自(zi)信(xin)心(xin)的(de)下(xia)降(jiang)。(。)拥(yong)有(you)健(jian)康(kang)、(、)整(zheng)齐(qi)的(de)牙(ya)齿(chi)有(you)助(zhu)于(yu)社(she)交(jiao)和(he)职(zhi)业(ye)发(fa)展(zhan)。(。)而(er)这(zhe)一(yi)点(dian),(,)往(wang)往(wang)是(shi)金(jin)钱(qian)无(wu)法(fa)衡(heng)量(liang)的(de)。(。)综(zong)上(shang)所(suo)述(shu),(,)虽(sui)然(ran)种(zhong)植(zhi)牙(ya)的(de)价(jia)格(ge)不(bu)菲(fei),(,)但(dan)从(cong)长(chang)期(qi)效(xiao)

发布于:北京市