中国团队发布类脑脉冲大模型“瞬悉” 实现两个首次和多项核心突破|136fldh福利视频导航
中新网北京9月8日电 (记者 孙自法)中国科学院自动化研究所9月8日宣布，该所研究团队最新成功研发并发布类脑脉冲大模型“瞬悉”1.0(SpikingBrain-1.0)，实现两个首次和多项核心性能突破，为新一代人工智能发展提供了新技术路线，并将启迪更低功耗的下一代神经形态计算理论和芯片设计。
两个首次
这是中国首次提出大规模类脑线性基础模型架构、并首次在国产图形处理器(GPU)算力集群上构建类脑脉冲大模型的训练和推理框架。
“瞬悉”大模型由中国科学院自动化所李国齐和徐波研究员领导团队基于“内生复杂性”理论构建，已在国产GPU平台上完成全流程训练与推理，实现大模型在超长序列推理上数量级的效率和速度提升，展示出构建国产自主可控的新型大模型架构生态的可行性。
“瞬悉”大模型解决了脉冲驱动限制下的大规模类脑模型性能退化问题，其超长序列处理能力在法律/医学文档分析、复杂多智能体模拟、高能粒子物理实验、DNA序列分析、分子动力学轨迹等超长序列任务建模场景中，具有显著的潜在效率优势。
目前，研究团队已开源“瞬悉”大模型并开放测试网址，还同步公开经工业界大规模验证的该类脑脉冲大模型中英文技术报告。
四项突破
研究团队指出，“瞬悉”大模型主要在高效训练、推理效率、类脑大模型生态构建、多尺度稀疏机制等四项核心性能上实现突破：
极低数据量上的高效训练方面，训练阶段具有线性或近线性复杂度，显著提升长序列训练效率，并能依托高效转换训练范式，以约为主流大模型2%的预训练数据量，实现与众多开源Transformer(一种基于自注意力机制的深度学习架构)模型在多任务语言理解、中文多任务语言理解、常识推理能力任务上相媲美的性能。
推理效率的数量级提升方面，推理阶段结合脉冲神经元事件驱动特性，“瞬悉”大模型具有常数或部分层常数级别的复杂度和存储开销，在超长序列处理能力上展现出数量级的效率和速度提升。
国产自主可控类脑大模型生态的构建方面，“瞬悉”大模型适配了面向国产GPU集群的高效训练和推理框架、有关算子库、模型并行策略以及集群通信原语，表明构建国产自主可控的新型非Transformer大模型架构生态的可行性。
基于动态阈值脉冲化的多尺度稀疏机制方面，“瞬悉”大模型设计细粒度的两阶段动态阈值脉冲化策略，结合粗粒度的混合专家模型方案，实现超过69.15%的稀疏度，长序脉冲占比约1.85%，为低功耗的类脑大模型运行提供有力支撑。
新型路径
研究团队介绍，当前基于Transformer架构的主流大模型，通过增加网络规模、算力资源和数据量提升模型智能水平，其基本计算单元为简单的点神经元模型，此路径被称为“基于外生复杂性”的通用智能实现方法。
不过，Transformer架构的固有缺点，是训练时开销随序列长度呈平方级增长以及推理时显存占用也随序列长度线性增加，构成资源消耗的主要瓶颈，导致其处理超长序列的能力受限。
借鉴大脑神经元内部复杂工作机制，研究团队提出“基于内生复杂性”的大模型构架方式，成功研发出类脑脉冲大模型“瞬悉”，在理论上建立脉冲神经元内生动力学与线性注意力模型之间的联系，揭示现有线性注意力机制是树突计算的特殊简化形式，从而清晰展示出一条不断提升模型复杂度和性能的新型可行路径。
根据新型路经，研究团队构建并开源基于脉冲神经元、具有线性及混合线性复杂度的新型类脑基础模型“瞬悉”，它仅需约主流模型2%的数据量，就能在多项语言理解和推理任务中媲美众多主流模型。(完)
xuetanggao，jigaoxuetangzheng，zhuyaoshizhixueyezhongdeputaotangnongduchaoguozhengchangfanwei。changqigaoxuetanghuidaozhiduozhongjiankangwenti，rutangniaobingjiqibingfazheng，yincilejiegaoxuetangdezhengzhuangheganjiaoduiyujishishibieheguanlixuetangshuipingzhiguanzhongyao。shouxian，gaoxuetangzuichangjiandezhengzhuangzhiyishiduoniao。youyutineideputaotangnongduguogao，shenzanghuitongguoniaoyepaichuduoyudetangfen，congerdaozhipainiaocishuzengjia。zhezhongqingkuangchangchangbansuizhekoukeganjiazhong，yinweishentixuyaobuchongliushideshuifen。qici，jidukoukeyeshigaoxuetangdezhongyaozhibiaozhiyi。youyutineishuifenbeipaichu，shentihuigandaoqueshui，youfaqiangliedeyinshuiyuwang。zhezhongqingkuangchangchangshidehuanzhechixugandaokouke，jinguantamenyinyongledaliangdeshuifen。ciwai，xuduogaoxuetanghuanzhehaihuigandaopibeiwuli。gaoxuetangshideshentiwufayouxiaoliyongputaotangzuoweinengliangyuan，daozhixibaowufahuoquzugoudenengliang，congergandaopilao。wulunshishentigongzuohaishirichanghuodong，doukenengbiandefeichangfeili。zaizhe，gaoxuetanghaikenengyinqishilimohu。duanqidegaoxuetanghuidaozhiyanjingdejingzhuangtizhongzhang，yingxiangshijiao。huanzhezaizhezhongqingkuangxiakenenghuigandaoyanqianwumengmengde，shilibiandebuqingxi。chulezhexiechangjianzhengzhuang，mouxiehuanzhezaigaoxuetangfazuoshihaikenengchuxiantoutong、exin、futongdengbushigan。ruosuizhichuxianhuxijicu、huxidaiyoushuiguoweidenggengyanzhongdeqingkuang，kenengyushizhetangniaobingtongzhengsuanzhong血(xue)糖(tang)高(gao)，(，)即(ji)高(gao)血(xue)糖(tang)症(zheng)，(，)主(zhu)要(yao)是(shi)指(zhi)血(xue)液(ye)中(zhong)的(de)葡(pu)萄(tao)糖(tang)浓(nong)度(du)超(chao)过(guo)正(zheng)常(chang)范(fan)围(wei)。(。)长(chang)期(qi)高(gao)血(xue)糖(tang)会(hui)导(dao)致(zhi)多(duo)种(zhong)健(jian)康(kang)问(wen)题(ti)，(，)如(ru)糖(tang)尿(niao)病(bing)及(ji)其(qi)并(bing)发(fa)症(zheng)，(，)因(yin)此(ci)了(le)解(jie)高(gao)血(xue)糖(tang)的(de)症(zheng)状(zhuang)和(he)感(gan)觉(jiao)对(dui)于(yu)及(ji)时(shi)识(shi)别(bie)和(he)管(guan)理(li)血(xue)糖(tang)水(shui)平(ping)至(zhi)关(guan)重(zhong)要(yao)。(。)首(shou)先(xian)，(，)高(gao)血(xue)糖(tang)最(zui)常(chang)见(jian)的(de)症(zheng)状(zhuang)之(zhi)一(yi)是(shi)多(duo)尿(niao)。(。)由(you)于(yu)体(ti)内(nei)的(de)葡(pu)萄(tao)糖(tang)浓(nong)度(du)过(guo)高(gao)，(，)肾(shen)脏(zang)会(hui)通(tong)过(guo)尿(niao)液(ye)排(pai)出(chu)多(duo)余(yu)的(de)糖(tang)分(fen)，(，)从(cong)而(er)导(dao)致(zhi)排(pai)尿(niao)次(ci)数(shu)增(zeng)加(jia)。(。)这(zhe)种(zhong)情(qing)况(kuang)常(chang)常(chang)伴(ban)随(sui)着(zhe)口(kou)渴(ke)感(gan)加(jia)重(zhong)，(，)因(yin)为(wei)身(shen)体(ti)需(xu)要(yao)补(bu)充(chong)流(liu)失(shi)的(de)水(shui)分(fen)。(。)其(qi)次(ci)，(，)极(ji)度(du)口(kou)渴(ke)也(ye)是(shi)高(gao)血(xue)糖(tang)的(de)重(zhong)要(yao)指(zhi)标(biao)之(zhi)一(yi)。(。)由(you)于(yu)体(ti)内(nei)水(shui)分(fen)被(bei)排(pai)出(chu)，(，)身(shen)体(ti)会(hui)感(gan)到(dao)缺(que)水(shui)，(，)诱(you)发(fa)强(qiang)烈(lie)的(de)饮(yin)水(shui)欲(yu)望(wang)。(。)这(zhe)种(zhong)情(qing)况(kuang)常(chang)常(chang)使(shi)得(de)患(huan)者(zhe)持(chi)续(xu)感(gan)到(dao)口(kou)渴(ke)，(，)尽(jin)管(guan)他(ta)们(men)饮(yin)用(yong)了(le)大(da)量(liang)的(de)水(shui)分(fen)。(。)此(ci)外(wai)，(，)许(xu)多(duo)高(gao)血(xue)糖(tang)患(huan)者(zhe)还(hai)会(hui)感(gan)到(dao)疲(pi)惫(bei)无(wu)力(li)。(。)高(gao)血(xue)糖(tang)使(shi)得(de)身(shen)体(ti)无(wu)法(fa)有(you)效(xiao)利(li)用(yong)葡(pu)萄(tao)糖(tang)作(zuo)为(wei)能(neng)量(liang)源(yuan)，(，)导(dao)致(zhi)细(xi)胞(bao)无(wu)法(fa)获(huo)取(qu)足(zu)够(gou)的(de)能(neng)量(liang)，(，)从(cong)而(er)感(gan)到(dao)疲(pi)劳(lao)。(。)无(wu)论(lun)是(shi)身(shen)体(ti)工(gong)作(zuo)还(hai)是(shi)日(ri)常(chang)活(huo)动(dong)，(，)都(dou)可(ke)能(neng)变(bian)得(de)非(fei)常(chang)费(fei)力(li)。(。)再(zai)者(zhe)，(，)高(gao)血(xue)糖(tang)还(hai)可(ke)能(neng)引(yin)起(qi)视(shi)力(li)模(mo)糊(hu)。(。)短(duan)期(qi)的(de)高(gao)血(xue)糖(tang)会(hui)导(dao)致(zhi)眼(yan)睛(jing)的(de)晶(jing)状(zhuang)体(ti)肿(zhong)胀(zhang)，(，)影(ying)响(xiang)视(shi)觉(jiao)。(。)患(huan)者(zhe)在(zai)这(zhe)种(zhong)情(qing)况(kuang)下(xia)可(ke)能(neng)会(hui)感(gan)到(dao)眼(yan)前(qian)雾(wu)蒙(meng)蒙(meng)的(de)，(，)视(shi)力(li)变(bian)得(de)不(bu)清(qing)晰(xi)。(。)除(chu)了(le)这(zhe)些(xie)常(chang)见(jian)症(zheng)状(zhuang)，(，)某(mou)些(xie)患(huan)者(zhe)在(zai)高(gao)血(xue)糖(tang)发(fa)作(zuo)时(shi)还(hai)可(ke)能(neng)出(chu)现(xian)头(tou)痛(tong)、(、)恶(e)心(xin)、(、)腹(fu)痛(tong)等(deng)不(bu)适(shi)感(gan)。(。)若(ruo)随(sui)之(zhi)出(chu)现(xian)呼(hu)吸(xi)急(ji)促(cu)、(、)呼(hu)吸(xi)带(dai)有(you)水(shui)果(guo)味(wei)等(deng)更(geng)严(yan)重(zhong)的(de)情(qing)况(kuang)，(，)可(ke)能(neng)预(yu)示(shi)着(zhe)糖(tang)尿(niao)病(bing)酮(tong)症(zheng)酸(suan)中(zhong)