新一批創(chuàng)新企業(yè)開始基于 DGX 系統(tǒng)、Base Command 和 DGX SuperPOD 來實(shí)現(xiàn) AI,包括 Adept AI、現(xiàn)代汽車集團(tuán)、KT 和威斯康星大學(xué)麥迪遜分校。
在GTC 大會上,NVIDIA 公布了DGX 產(chǎn)品系列的多項(xiàng)更新,有望推動企業(yè)級 AI 開發(fā)實(shí)現(xiàn)新突破。
NVIDIA DGX H100 系統(tǒng)現(xiàn)已提供訂購。這些基礎(chǔ)設(shè)施的基礎(chǔ)構(gòu)建模塊支持 NVIDIA 的全棧企業(yè)級 AI 解決方案。
NVIDIA DGX H100 在 FP8 精度下提供 32 petaflop 的性能,將能大幅提升企業(yè)級 AI 開發(fā)的效率。與上一代系統(tǒng)相比,DGX H100 的總體擁有成本降至1/3,能效提高 3.5 倍。
新的 NVIDIA Base Command 軟件可簡化和加速 AI 開發(fā),有力支持從單節(jié)點(diǎn)到 DGX SuperPOD 的各種 DGX 系統(tǒng)高效運(yùn)行。
此外,NVIDIA DGX BasePOD(DGX POD 的進(jìn)階版)也揭開了面紗,它使 IT 團(tuán)隊(duì)能更快速輕松地獲得、部署和管理企業(yè)級數(shù)據(jù)中心 AI。
全球許多 AI 領(lǐng)軍企業(yè)都在使用 NVIDIA DGX 系統(tǒng)和軟件,致力于尋求技術(shù)突破(從自動駕駛汽車到語音助手),且從未放緩創(chuàng)新的步伐。
全新 NVIDIA Base Command 功能
NVIDIA Base Command 提供企業(yè)級編排和集群管理功能,并且包含完整的軟件棧,以盡可能地提高 AI 開發(fā)者的工作效率、IT 可管理性和工作負(fù)載性能。
Base Command 的工作流管理功能現(xiàn)在包含對本地 DGX SuperPOD 環(huán)境的支持,使企業(yè)能通過簡化的項(xiàng)目團(tuán)隊(duì)協(xié)作、集成的監(jiān)控和報(bào)告面板來集中控制 AI 開發(fā)項(xiàng)目。
Base Command 與 NVIDIA AI Enterprise 軟件套件配合使用,該套件現(xiàn)已包含在所有 DGX 系統(tǒng)中。借助此 NVIDIA AI 軟件,客戶可以使用其所支持的 AI 和數(shù)據(jù)科學(xué)工具、優(yōu)化的框架和預(yù)訓(xùn)練模型,進(jìn)行端到端 AI 開發(fā)和部署。
另外,此軟件還能與以下公司的企業(yè)工作流管理和 MLOps 工具進(jìn)行集成:DGX-Ready 軟件提供商 Domino Data Lab、Run.ai、Weights & Biases,以及NVIDIA初創(chuàng)加速計(jì)劃成員 Rescale。此軟件還包含多個庫,不僅能優(yōu)化和加速計(jì)算、存儲和網(wǎng)絡(luò)基礎(chǔ)設(shè)施,還能確保盡可能地延長系統(tǒng)的正常運(yùn)行時間、安全性和可靠性。
全新 DGX BasePOD 參考架構(gòu)
DGX BasePOD 為 DGX 系統(tǒng)提供參考架構(gòu),該架構(gòu)融合了集成計(jì)算、網(wǎng)絡(luò)、存儲和軟件方面的最佳設(shè)計(jì)實(shí)踐。
客戶已經(jīng)使用 NVIDIA DGX POD 來推動各種企業(yè)應(yīng)用的開發(fā)。DGX BasePOD 基于DGX POD 的成功,其新型行業(yè)解決方案瞄準(zhǔn)了 AI 領(lǐng)域的巨大機(jī)遇,包括自然語言處理、醫(yī)療健康和生命科學(xué)以及欺詐檢測。
DGX BasePOD 解決方案通過 NVIDIA 合作伙伴網(wǎng)絡(luò),作為完全集成、可隨時部署的產(chǎn)品提供給客戶,其規(guī)模介于兩個到數(shù)百個 DGX 系統(tǒng)之間,并采用由以下 NVIDIA DGX 存儲技術(shù)合作伙伴開發(fā)的認(rèn)證高性能存儲技術(shù):DDN、戴爾、NetApp、Pure Storage、VAST Data 和 WEKA 等。
領(lǐng)軍企業(yè)借助 DGX 系統(tǒng)推動 AI 開發(fā)實(shí)現(xiàn)突破
世界各地的許多企業(yè)都選擇 NVIDIA DGX 系統(tǒng)來有效運(yùn)行其高級 AI 工作負(fù)載。以下是在 DGX A100 系統(tǒng)上開發(fā)任務(wù)關(guān)鍵型 AI 功能的部分 AI 創(chuàng)新者:
機(jī)器學(xué)習(xí)研究和產(chǎn)品實(shí)驗(yàn)室 Adept 正在打造基于大型語言模型的 AI 團(tuán)隊(duì)成員,其原型基于 NVIDIA DGX Foundry 開發(fā),然后利用 Oracle Cloud Infrastructure上的 NVIDIA A100 GPU 和 NVIDIA Megatron 進(jìn)行擴(kuò)展。
現(xiàn)代汽車集團(tuán)正使用 40 個節(jié)點(diǎn)的 DGX SuperPOD,探索研究超大規(guī)模 AI 工作負(fù)載。
電信公司 KT 正在使用 NVIDIA NeMo Megatron 框架、NVIDIA DGX SuperPOD 和 NVIDIA Base Command 軟件,為各種韓語應(yīng)用(包括 GiGA Genie 智能揚(yáng)聲器)開發(fā)一個包含大約 400 億參數(shù)的 LLM。
威斯康星大學(xué)麥迪遜分校正在將 NVIDIA DGX 系統(tǒng)與 Flywheel 研究平臺以及 NVIDIA Clara 醫(yī)療健康應(yīng)用框架一起使用,致力于快速將 AI 引入到醫(yī)學(xué)成像設(shè)備中。該大學(xué)與其他醫(yī)院合作,使用 NVIDIA 聯(lián)邦學(xué)習(xí)應(yīng)用運(yùn)行時環(huán)境 (NVIDIA FLARE) 在 DGX 系統(tǒng)上安全地訓(xùn)練用于醫(yī)學(xué)成像、標(biāo)注數(shù)據(jù)和分類的 AI 模型。
審核編輯:湯梓紅
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5076瀏覽量
103729 -
AI
+關(guān)注
關(guān)注
87文章
31536瀏覽量
270348
原文標(biāo)題:GTC22 | 全新 NVIDIA DGX 系統(tǒng)軟件和基礎(chǔ)設(shè)施解決方案強(qiáng)效賦能企業(yè) AI
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
ads1174中的DIN腳的功能說是Daisy-chain,它的作用是什么?
NVIDIA NeMo Guardrails引入三項(xiàng)全新NIM微服務(wù)
NVIDIA推出全新生成式AI模型Fugatto
全新NVIDIA NIM微服務(wù)實(shí)現(xiàn)突破性進(jìn)展
使用全新NVIDIA AI Blueprint開發(fā)視覺AI智能體
Simplelink? Wi-Fi? AT Command用戶指南
![Simplelink? Wi-Fi? AT <b class='flag-5'>Command</b>用戶指南](https://file.elecfans.com/web1/M00/D9/4E/pIYBAF_1ac2Ac0EEAABDkS1IP1s689.png)
Modbus協(xié)議診斷功能說明
NVIDIA JetPack 6.0版本的關(guān)鍵功能
![<b class='flag-5'>NVIDIA</b> JetPack 6.0版本的關(guān)鍵<b class='flag-5'>功能</b>](https://file1.elecfans.com/web2/M00/05/B8/wKgZombeWvOAEOjgAAIXpwM05c0983.png)
英偉達(dá)推出全新NVIDIA AI Foundry服務(wù)和NVIDIA NIM推理微服務(wù)
網(wǎng)頁編譯ESP-AT工程如何設(shè)置AT driver command support功能?
NVIDIA推出用于支持在全新GeForce RTX AI筆記本電腦上運(yùn)行的AI助手及數(shù)字人
NVIDIA推出兩款基于NVIDIA Ampere架構(gòu)的全新臺式機(jī)GPU
NVIDIA Edify為視覺內(nèi)容提供商帶來3D生成式AI和全新圖像控件
NVIDIA宣布推出基于Omniverse Cloud API構(gòu)建的全新軟件框架
Altium Designer 24.2.2新功能說明
![Altium Designer 24.2.2新<b class='flag-5'>功能說明</b>](https://file1.elecfans.com/web2/M00/C1/9C/wKgaomXX9f2ASnh1AAFfzftcwB8302.png)
評論