浪潮信息聯合英特爾發布面向生成式AI領域創新開發的新一代AI服務器NF5698G7。該AI服務器支持8顆OAM高速互聯的Gaudi2加速器,具備高性能、高擴展、高能效和開放生態等優點,將為AI客戶提供強大的大模型訓練和推理能力。
浪潮信息NF5698G7在6U空間支持8顆基于開放加速模組OAM高速互聯的Gaudi2 AI加速器,每顆Gaudi2芯片配置96GB HBM高速內存,共提供2.1Tbps的P2P互聯帶寬,支持全互聯拓撲,滿足大模型訓練張量并行的通信需求;搭載2顆第四代至強處理器,支持AMX/DSA等AI加速引擎。Gaudi2是英特爾推出的深度學習加速器,以多方位性能與能效比提升,為業界提供了高性能、高性價比的AI算力選項,在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基準測試中,均取得了優異的性能表現。
NF5698G7采用高擴展設計,支持12個PCIe5.0 X16的IO擴展,最大支持4800Gbps節點間互聯帶寬,滿足大模型流水線并行和數據并行的通信需求,可擴展至萬卡AI集群。NF5698G7通過精細化分區、智能散熱調控、12V & 54V N+N雙輸入供電等創新設計,實現高功率負載動態匹配和低電源功率損耗,系統功耗降低8%。
NF5698G7基于全球開放計算OCP開放加速器規范 OAM/UBB進行產品設計,支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行開發工具,為生成式AI提供成熟、高性價比的開放生態產品方案。NF5698G7支持浪潮信息的AI算力資源平臺AIStation,通過對計算資源、數據資源、深度學習軟件棧資源進行統一管理,有效提升大模型算力平臺的使用效率,助力客戶加速AI大模型開發與部署。
浪潮信息高級副總裁、AI&HPC產品線總經理劉軍表示:“NF5698G7為生成式AI應用提供了極具吸引力的AI算力平臺,我們與英特爾緊密協作,優化了NF5698G7在多種生成式AI場景的性能表現,為AI客戶提供強大的大模型訓練和推理能力,加速AIGC創新步伐、賦力生成式AI產業創新?!?/p>
英特爾執行副總裁兼數據中心與人工智能事業部總經理Sandra Rivera表示:“英特爾致力于提供基于至強處理器和 Gaudi 深度學習加速器的業界領先的人工智能解決方案,以及開放、安全且易于編程的軟件,降低AI應用門檻,讓AI惠及所有人。對尋求高性能和高性價比的客戶來說,浪潮信息 NF5698G7 是絕佳選擇。我們將繼續與浪潮信息合作,在人工智能時代不斷創新。”
浪潮信息是全球領先的AI服務器廠商。據IDC數據報告顯示,浪潮信息在中國AI服務器市場份額連續六年保持第一。
審核編輯:湯梓紅
-
英特爾
+關注
關注
61文章
10007瀏覽量
172327 -
服務器
+關注
關注
12文章
9303瀏覽量
86061 -
浪潮
+關注
關注
1文章
468瀏覽量
23945 -
AI
+關注
關注
87文章
31513瀏覽量
270328
原文標題:浪潮信息聯合英特爾發布新一代AI服務器NF5698G7,支持8顆Gaudi2加速器
文章出處:【微信號:浪潮AIHPC,微信公眾號:浪潮AIHPC】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
浪潮信息推出基于新一代分布式存儲平臺AS13000G7的AIGC存儲解決方案
![<b class='flag-5'>浪潮信息</b>推出基于<b class='flag-5'>新一代</b>分布式存儲平臺AS13000<b class='flag-5'>G7</b>的AIGC存儲解決方案](https://file1.elecfans.com/web2/M00/F6/A7/wKgZomaCjN-Aa5uAAABJhO1rf-c369.png)
英特爾發布新一代Lunar Lake處理器
浪潮信息發布AS13000G7-N系列分布式全閃存儲
為大模型專門優化 浪潮信息發布分布式全閃存儲AS13000G7-N系列
![為大模型專門優化 <b class='flag-5'>浪潮信息</b><b class='flag-5'>發布</b>分布式全閃存儲AS13000<b class='flag-5'>G7</b>-N系列](https://file1.elecfans.com//web2/M00/E3/EB/wKgZomY93LqAB0zmAACk7cG7-Us233.jpg)
浪潮信息推出業界首個支持50℃進液溫度的服務器
浪潮信息發布為大模型專門優化的分布式全閃存儲AS13000G7-N系列
![<b class='flag-5'>浪潮信息</b><b class='flag-5'>發布</b>為大模型專門優化的分布式全閃存儲AS13000<b class='flag-5'>G7</b>-N系列](https://file1.elecfans.com/web2/M00/E2/15/wKgZomY61--ATpyVAAALqqPGbD8415.jpg)
浪潮信息突破浸沒式液冷服務器設計極限 業界首個支持50℃進液溫度
![<b class='flag-5'>浪潮信息</b>突破浸沒式液冷<b class='flag-5'>服務器</b>設計極限 業界首個支持50℃進液溫度](https://file1.elecfans.com//web2/M00/E0/EF/wKgZomY40T6AR0tlAABj1X5u2nQ717.jpg)
英特爾AI產品助力其運行Meta新一代大語言模型Meta Llama 3
浪潮信息"源2.0"大模型YuanChat支持英特爾最新商用AI PC
![<b class='flag-5'>浪潮信息</b>"源2.0"大模型YuanChat支持<b class='flag-5'>英特爾</b>最新商用<b class='flag-5'>AI</b> PC](https://file1.elecfans.com//web2/M00/C6/02/wKgZomYEMqWAGh5CAAGNLjfb0sc454.jpg)
浪潮信息與英特爾合作推出一種大模型效率工具“YuanChat”
![<b class='flag-5'>浪潮信息</b>與<b class='flag-5'>英特爾</b>合作推出<b class='flag-5'>一</b>種大模型效率工具“YuanChat”](https://file1.elecfans.com/web2/M00/C6/D3/wKgaomYDs-iAXotIAAFZxWMgFo8771.jpg)
評論