国际期刊发表DeepSeek大规模推理模型训练方法 揭示AI背后的科学|人妻健身房yin乱
1. 健身房里的人
2. 健身房里的混乱事儿
中新网北京9月18日电 (记者 孙自法)作为一家专注于大语言模型(LLM)和通用人工智能(AGI)技术的中国公司,DeepSeek(深度求索)今年早些时候发布的开源人工智能(AI)模型DeepSeek-R1采用的大规模推理模型训练方法,颇受关注。
北京时间9月17日夜间,该训练方法在国际知名学术期刊《自然》上线发表,其揭示AI技术背后的科学研究表明,大语言模型的推理能力可通过纯强化学习来提升,从而减少增强性能所需的人类输入工作量。训练出的模型在数学、编程竞赛和STEM(科学、技术、工程、数学)领域研究生水平问题等任务上,比传统训练的大语言模型表现更好。
论文通讯作者为DeepSeek创始人梁文锋,他领导的DeepSeek-AI团队表示,让AI模型像人类一样进行推理一直是难题,虽然大语言模型已显示出一些推理能力,但训练过程需要大量计算资源。通过人工提示引导可改进这类模型,促使其生成中间推理步骤,从而大为强化其在复杂任务中的表现。不过,这个方法会导致计算成本过高,并限制其扩展潜力。
DeepSeek-AI团队介绍说,DeepSeek-R1包含一个在人类监督下的深入训练阶段,以优化推理过程。该模型使用了强化学习而非人类示例来开发推理步骤,从而减少了训练成本和复杂性。DeepSeek-R1在被展示优质的问题解决案例后,会获得一个模板来产生推理过程。这一模型通过解决问题获得奖励,从而强化学习效果。
在评估AI表现的数学基准测试中,DeepSeek-R1-Zero和DeepSeek-R1得分分别为77.9%和79.8%。此外,该模型在编程竞赛及研究生水平的生物学、物理和化学问题上同样表现优异。
《自然》同期发表国际同行专家的“新闻与观点”文章指出,当前版本的DeepSeek-R1有一些能力限制,希望能在未来版本中得到改进。例如,该模型有时会混合语言,目前只针对中文和英文做了优化;它对提示词也很敏感,需要精心设计的提示词工程,在某些任务上没有展现出明显提升,例如软件工程任务。
DeepSeek-AI团队总结认为,未来研究可以聚焦优化奖励过程,以确保推理和任务结果可靠。(完)
duixibeichengshilaishuo,jichangdezuoyongyouweizhongyao。xibeibuyanhai,yemeiyouneihehangyun。yituotieluhejichangdazaoshuniu,xingchengkaifangmenhu,wulunduiquyuhaishiquanguoeryan,doujuyoujingjiyuzhanlvedeshuangzhongyiyi。对(dui)西(xi)北(bei)城(cheng)市(shi)来(lai)说(shuo),(,)机(ji)场(chang)的(de)作(zuo)用(yong)尤(you)为(wei)重(zhong)要(yao)。(。)西(xi)北(bei)不(bu)沿(yan)海(hai),(,)也(ye)没(mei)有(you)内(nei)河(he)航(hang)运(yun)。(。)依(yi)托(tuo)铁(tie)路(lu)和(he)机(ji)场(chang)打(da)造(zao)枢(shu)纽(niu),(,)形(xing)成(cheng)开(kai)放(fang)门(men)户(hu),(,)无(wu)论(lun)对(dui)区(qu)域(yu)还(hai)是(shi)全(quan)国(guo)而(er)言(yan),(,)都(dou)具(ju)有(you)经(jing)济(ji)与(yu)战(zhan)略(lve)的(de)双(shuang)重(zhong)意(yi)义(yi)。(。)