近期DeepSeek在國內(nèi)外受到廣泛關(guān)注，請?jiān)敿?xì)談?wù)勚饕蚴鞘裁矗?/h2>

2025-02-06 撤稿糾錯(cuò)

近期DeepSeek在國內(nèi)外受到廣泛關(guān)注，請?jiān)敿?xì)談?wù)勚饕蚴鞘裁矗?/strong>

劉知遠(yuǎn)：這主要是因?yàn)镈eepSeek最近發(fā)布的R1模型具有非常重要的價(jià)值。這種價(jià)值主要體現(xiàn)在其能夠復(fù)現(xiàn)OpenAI o1的深度推理能力。

因?yàn)镺penAI o1本身并沒有提供關(guān)于其實(shí)現(xiàn)細(xì)節(jié)的任何信息，OpenAI o1 相當(dāng)于引爆了一顆原子彈，但沒有告訴大家秘方。而我們需要從頭開始，自己去尋找如何復(fù)現(xiàn)這種能力的方法。DeepSeek可能是全球首個(gè)能夠通過純粹的強(qiáng)化學(xué)習(xí)技術(shù)復(fù)現(xiàn)OpenAI o1能力的團(tuán)隊(duì)，并且他們通過開源并發(fā)布相對詳細(xì)的介紹，為行業(yè)發(fā)展做出了重要貢獻(xiàn)。

DeepSeek -R1的整個(gè)訓(xùn)練流程，有兩個(gè)非常重要的亮點(diǎn)或價(jià)值。

首先，DeepSeek R1創(chuàng)造性地基于DeepSeek V3基座模型，通過大規(guī)模強(qiáng)化學(xué)習(xí)技術(shù)，得到了一個(gè)純粹通過強(qiáng)化學(xué)習(xí)增強(qiáng)的強(qiáng)推理模型，即DeepSeek-R1-Zero。這具有非常重要的價(jià)值。因?yàn)?，在歷史上幾乎沒有團(tuán)隊(duì)能夠成功地將強(qiáng)化學(xué)習(xí)技術(shù)很好地應(yīng)用于大規(guī)模模型上，并實(shí)現(xiàn)大規(guī)模訓(xùn)練。

DeepSeek R1的第二個(gè)重要貢獻(xiàn)，在于其強(qiáng)化學(xué)習(xí)技術(shù)不僅局限于數(shù)學(xué)、算法代碼等容易提供獎勵(lì)信號的領(lǐng)域，還能創(chuàng)造性地將強(qiáng)化學(xué)習(xí)帶來的強(qiáng)推理能力泛化到其他領(lǐng)域。這也是用戶在實(shí)際使用DeepSeek- R1進(jìn)行寫作等任務(wù)時(shí)，能夠感受到其強(qiáng)大的深度思考能力的原因。

綜上，DeepSeek -R1的貢獻(xiàn)體現(xiàn)在兩個(gè)方面：一是通過規(guī)則驅(qū)動的方法實(shí)現(xiàn)了大規(guī)模強(qiáng)化學(xué)習(xí)；二是通過深度推理SFT數(shù)據(jù)與通用SFT數(shù)據(jù)的混合微調(diào)，實(shí)現(xiàn)了推理能力的跨任務(wù)泛化。這使得DeepSeek -R1能夠成功復(fù)現(xiàn)OpenAI o1的推理水平。

而且，由于開源，DeepSeek -R1讓全世界意識到深度思考的威力。人工智能領(lǐng)域迎來了類似于2023年初的ChatGPT時(shí)刻。每個(gè)人感受到大模型的能力又往前邁進(jìn)了一大步。

不過，我們也需要合理評估DeepSeek -R1的意義。它在歷史上更像是2023年Meta的LLaMA。