衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA全新AI以太網絡平臺大幅提升AI云性能

麗臺科技 ? 來源:NVIDIA英偉達企業解決方案 ? 2023-11-27 14:31 ? 次閱讀

NVIDIA 近日宣布,三家頭部系統制造商將率先在其服務器產品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網絡技術,幫助企業客戶加速生成式 AI 業務。

Spectrum-X 專為生成式 AI 量身定制,為企業提供了一種全新的以太網絡,相較傳統以太網方案,其 AI 通信網絡性能提高了 1.6 倍。

這三家頭部系統制造商的新系統,整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件,為企業通過生成式 AI 來實現業務轉型奠定了基礎。

NVIDIA 創始人兼首席執行官黃仁勛表示:“生成式 AI 和加速計算正在推動新一代的業務轉型,企業需要升級其數據中心來滿足新型業務的需求。加速網絡就是 NVIDIA 的頭部服務器制造商合作伙伴推出新一代系統的催化劑,加快他們邁向生成式 AI 新時代。”

專門用于加速 AI 的網絡

為實現 AI 業務的出色效率,Spectrum-X 集性能優異的 Spectrum-4 以太網交換機、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大規模 AI 業務性能的新型網絡加速器)以及多種加速軟件于一體。領先的基礎設施計算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。

Spectrum-4 是專門面向 AI 的 51Tb/sec 以太網交換機,可在大規模、滿負荷的場景下提供較高的數據吞吐量,同時在 AI 云業務的多租戶場景下將網絡擁塞降低,其智能的、基于微調的路由技術可以保障網絡基礎設施的利用率。

BlueField-3 SuperNIC 專為網絡密集型的大規模并行計算而設計,可在 GPU 服務器之間提供高達 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)網絡連接,大幅提升了集群內部基于東西網絡流量的 AI 訓練和推理性能,還能實現多租戶數據中心環境的安全隔離,確保租戶業務的可預測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規格設計,是企業級服務器的理想選擇。

NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優異的 Spectrum-X 軟件開發套件,以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。

NVIDIA AI Enterprise 為安全、穩定和已經支持的生產級 AI 業務提供了框架、預訓練模型和開發工具。NVIDIA AI Workbench 使開發者能夠在 PC 或工作站上快速創建、測試和自定義預訓練生成式 AI 模型,然后將其擴展至幾乎任何數據中心或云。

搭載 Spectrum-X 的 NVIDIA 超級計算機

NVIDIA 自己的一臺超級計算機就在使用 Spectrum-X,這也是新一代 AI 系統的參考架構。該超級計算機由 NVIDIA 與戴爾科技聯合開發,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務器,并通過 Spectrum-4 交換機組成了集群系統。






審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 以太網
    +關注

    關注

    40

    文章

    5460

    瀏覽量

    172746
  • NVIDIA
    +關注

    關注

    14

    文章

    5076

    瀏覽量

    103728
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4777

    瀏覽量

    129360
  • 交換機
    +關注

    關注

    21

    文章

    2656

    瀏覽量

    100181
  • RDMA
    +關注

    關注

    0

    文章

    78

    瀏覽量

    8981

原文標題:NVIDIA 全新 AI 以太網絡平臺大幅提升 AI 云性能

文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NVIDIA發布全新NIM AI Guardrail微服務

    ,致力于提升生成式AI應用的安全性、精準度和可擴展性。 這些微服務以NeMo Guardrails為核心進行編排,充分利用了NVIDIA NeMo平臺
    的頭像 發表于 01-18 11:48 ?427次閱讀

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    的“知識機器人”,提升全球數十億知識工作者的生產力。為了開發 AI 智能體,企業需要解決信任、物理安全、網絡安全以及合規性等關鍵問題。 全新 NVI
    發表于 01-17 16:29 ?73次閱讀

    以太網速率對網絡性能的影響

    以太網作為最廣泛使用的局域網技術之一,其速率的提高對網絡性能有著直接的影響。從最初的10Mbps發展到今天的100Gbps甚至更高,以太網速率的提升
    的頭像 發表于 11-08 09:11 ?518次閱讀

    NVIDIA SuperNIC推進現代AI基礎設施發展

    在生成式 AI 時代,加速網絡對于為大規模分布式 AI 工作負載構建高性能計算平臺至關重要。NVIDIA
    的頭像 發表于 11-06 13:59 ?301次閱讀

    使用全新NVIDIA AI Blueprint開發視覺AI智能體

    為提高生產力、優化流程和創造更加安全的空間,埃森哲、戴爾科技和聯想等公司正在使用全新 NVIDIA AI Blueprint 開發視覺 AI 智能體。
    的頭像 發表于 11-06 13:58 ?518次閱讀

    NVIDIA助力xAI打造全球最大AI超級計算機

    以太網網絡平臺,該平臺是專為多租戶、超大規模的 AI 工廠提供卓越性能而設計的 RDMA(Remote Direct Memory Acc
    的頭像 發表于 10-30 11:38 ?446次閱讀

    NVIDIA 以太網加速 xAI 構建的全球最大 AI 超級計算機

    市的 Colossus 超級計算機集群達到了 10 萬顆 NVIDIA? Hopper? GPU 的巨大規模。該集群使用了 NVIDIA Spectrum-X? 以太網網絡平臺,該
    發表于 10-30 09:33 ?179次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>以太網</b>加速 xAI 構建的全球最大 <b class='flag-5'>AI</b> 超級計算機

    簡單認識NVIDIA網絡平臺

    NVIDIA Spectrum-X800 平臺是業界第一代 800Gb/s 的以太網網絡平臺,包括了 NVIDIA Spectrum SN5
    的頭像 發表于 09-09 09:22 ?501次閱讀

    應用NVIDIA Spectrum-X網絡構建新型主權AI

    法國服務提供商 Scaleway 正在基于 NVIDIA 的 Hopper GPU和 Spectrum-X 以太網網絡平臺 構建區域性 GPU 集群,為用戶提供
    的頭像 發表于 07-26 18:58 ?1243次閱讀

    NVIDIA面向生成式AI打造強大的以太網網絡

    NVIDIA 創始人兼首席執行官黃仁勛在 COMPUTEX 開幕前發表主題演講,展示了 NVIDIA 最新的全棧技術平臺如何通過廣泛的合作伙伴網絡觸及終端用戶和客戶——無論是通過
    的頭像 發表于 06-06 17:33 ?883次閱讀

    NVIDIA推出用于支持在全新GeForce RTX AI筆記本電腦上運行的AI助手及數字人

    》中。NVIDIA 還發布專為 NVIDIA ACE 數字人平臺打造的首個基于 PC 的 NVIDIA NIM 推理微服務。 這些技術由?NVIDI
    的頭像 發表于 06-04 10:19 ?912次閱讀

    NVIDIA Spectrum-X 以太網網絡平臺已被業界廣泛使用

    平臺已被業界廣泛使用,并且將進一步加快新品發布計劃。 Spectrum-X 是全球首款專為 AI 打造的以太網網絡平臺,可將生成式 AI
    的頭像 發表于 06-03 18:20 ?1039次閱讀

    NVIDIA發布專為大規模AI量身訂制的全新網絡交換機-X800系列

    NVIDIA Quantum-X800 InfiniBand 網絡NVIDIA Spectrum?-X800 以太網絡是全球首批高達 800Gb/s 端到端吞吐量的
    的頭像 發表于 03-20 09:54 ?567次閱讀

    NVIDIA 發布全新交換機,全面優化萬億參數級 GPU 計算和 AI 基礎設施

    NVIDIA Quantum-X800 InfiniBand 網絡,打造性能最強大的 AI 專用基礎設施 NVIDIA Spectrum-X
    發表于 03-19 10:05 ?411次閱讀
    <b class='flag-5'>NVIDIA</b> 發布<b class='flag-5'>全新</b>交換機,全面優化萬億參數級 GPU 計算和 <b class='flag-5'>AI</b> 基礎設施

    基于NVIDIA DOCA 2.6實現高性能和安全的AI設計

    網絡平臺上快速創建應用程序和服務,并啟用 NVIDIA BlueField DPU 和 NVIDIA BlueField SuperNIC 的強大功能,提供突破性的
    的頭像 發表于 02-23 10:02 ?538次閱讀
    金都百家乐官网现金网| 浠水县| 网上百家乐官网赌博经历| 新东方百家乐官网的玩法技巧和规则 | 百家乐博送彩金18| 最好的百家乐官网博彩网站| 大发888 游戏下载| 百家乐视频对对碰| 网络百家乐的玩法技巧和规则| 小孟百家乐官网的玩法技巧和规则| 大安市| 百家乐官网数据程序| 老虎机干扰器| 百家乐中庄闲比例| 属狗人做生意店铺朝向| 百家乐官网视频免费下载| 德州扑克英语| 全讯网社区| 百家乐赌大小| 乐百家乐彩现金开户| 百家乐官网庄闲和收益| 百家乐官网软件骗人吗| 皇冠网足球开户| 大发888娱乐场下载 官方| 百家乐双峰县| 永利高百家乐进不去| 百家乐官网桌布动物| 澳门百家乐官网怎玩| 百家乐官网的必赢方法| 上犹县| 万盛区| 时时博在线娱乐城| 78棋牌游戏| 大发888送58体验金| 真人百家乐怎么玩| 迪士尼百家乐的玩法技巧和规则| 视频百家乐平台出租| 做生意必须看风水吗| 大都会百家乐官网的玩法技巧和规则 | 大发888怎么下载安装| 大发888 894|