以DeepSeek-R1和V3為代表的開源模型系列在多語言理解和復雜推理任務中表現出色,極大優化了算力成本,并進一步改變了訓練和部署的算法結構,這一技術創新將快速提升對于推理算力的需求,從而加速推動AI應用場景的落地。
作為國產算力領軍企業,燧原科技完成了對DeepSeek全量模型的高效適配,包括DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek R1-Distill-Llama-8B/70B等蒸餾模型。整個適配進程中,燧原AI加速卡的計算能力得到充分利用,能夠快速處理海量數據,同時其穩定性為模型的持續優化和大規模部署提供了堅實的基礎。
目前,DeepSeek的全量模型已在慶陽、無錫、成都等智算中心完成了數萬卡的快速部署,將為客戶及合作伙伴提供高性能計算資源,提升模型推理效率,同時降低使用門檻,大幅節省硬件成本。這一成果標志著燧原科技在國內率先實現了DeepSeek全量模型的部署和落地,也充分展示了燧原科技超大規模集群的部署能力和日趨成熟的軟件生態,為2025年更大規模國產算力的建設應用提供了樣板。
此外,燧原科技與并濟科技、并行科技、東華軟件、道客網絡、光環云、邁富時、清程極智、燧弘華創、未來速度、無問芯穹、向量棧、億算智能、中科加禾等合作伙伴緊密合作,積極推進DeepSeek全量模型的更多系統級優化,進一步提升模型在推理系統的性價比,從而為客戶帶來更優的商業價值。
與此同時,燧原科技還與萬物安全、飛渡科技、萬物之宜等深度合作,即將推出面向“智慧城市、智慧園區、智慧交通”等AIoT場景的國內首個DeepSeek智算訓推一體機,幫助用戶解決國產化私有算力、超清數字孿生及物聯網安全等問題。
燧原科技正在推動“國產推理算力系統+國產大模型+國產應用+國產智算中心” 全方位生態的普及和泛化,以慶陽的推理萬卡集群為起點,用“算力普惠”的理念推動更大規模的國產算力部署,為國產應用賦能,為中國人工智能產業的發展提供了新的路徑。
-
開源
+關注
關注
3文章
3407瀏覽量
42713 -
模型
+關注
關注
1文章
3313瀏覽量
49227 -
燧原科技
+關注
關注
0文章
128瀏覽量
8405
原文標題:燧原科技實現全國各地智算中心DeepSeek的全量推理服務部署
文章出處:【微信號:gh_1222367b8780,微信公眾號:燧原科技Enflame】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論