衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于NVIDIA DOCA 2.6實(shí)現(xiàn)高性能和安全的AI云設(shè)計

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:NVIDIA英偉達(dá)企業(yè)解決方案 ? 2024-02-23 10:02 ? 次閱讀

作為專為 NVIDIA BlueField 網(wǎng)絡(luò)平臺而設(shè)計的數(shù)據(jù)中心基礎(chǔ)設(shè)施軟件框架,NVIDIA DOCA 使廣大開發(fā)者能夠利用其行業(yè)標(biāo)準(zhǔn) API 在 NVIDIA BlueField 網(wǎng)絡(luò)平臺上快速創(chuàng)建應(yīng)用程序和服務(wù),并啟用 NVIDIA BlueField DPU 和 NVIDIA BlueField SuperNIC 的強(qiáng)大功能,提供突破性的網(wǎng)絡(luò)、安全和存儲性能。

近日發(fā)布的 NVIDIA DOCA 2.6 引入了 NVIDIA BlueField 網(wǎng)絡(luò)平臺的新增功能和增強(qiáng)功能,可實(shí)現(xiàn)高性能和安全的 AI 云,從而大規(guī)模加速數(shù)據(jù)中心工作負(fù)載和 AI 應(yīng)用。借助可編程擁塞控制(PCC)和數(shù)據(jù)路徑加速(DPA),更新的 DOCA SDK 也為開發(fā)者提供了廣泛的開發(fā)框架,并提供新增功能和增強(qiáng)功能。

專為 AI 云而設(shè)計的網(wǎng)絡(luò)平臺

NVIDIA Spectrum-X 是適用于 AI 云“東西向”流量的以太網(wǎng)參考架構(gòu),其中主要包括 NVIDIA BlueField-3 SuperNIC 和 Spectrum-4 交換機(jī)。Spectrum-X 通過創(chuàng)新的高性能網(wǎng)絡(luò)為 AI 云提供峰值性能,從而有效滿足 AI 工作負(fù)載對 AI 云基礎(chǔ)設(shè)施的性能需求。

最新的 DOCA 2.6 版本支持 Spectrum-X 參考架構(gòu) 1.0,優(yōu)化了 Spectrum-4 交換機(jī)和 BlueField-3 SuperNIC 的性能協(xié)同,不但為 AI 工作負(fù)載提供優(yōu)化的無損 RoCEv2 和動態(tài)路由功能,而且支持零接觸 RoCE 擁塞控制(ZTR-CC)和可編程的 DOCA-PCC,從而顯著提高 AI 云的性能,并為租戶提供確定和隔離的性能。

開發(fā)硬件加速的網(wǎng)絡(luò)應(yīng)用程序

DOCA Flow 是用于卸載和加速網(wǎng)絡(luò)轉(zhuǎn)向(Network Steering)的開發(fā)庫,可以在軟件定義網(wǎng)絡(luò)(SDN)的服務(wù)中提供可編程的快速流水線(Pipeline),并通過采用 DOCA-CT 管道(Pipe)來加速連接跟蹤和管理會話狀態(tài)。

在 DOCA 2.6 版本中,DOCA-CT 通過簡化流水線來提升效率,并支持 NAT64 來實(shí)現(xiàn) IPv6 和 IPv4 之間的地址轉(zhuǎn)換,從而使連接跟蹤與 NAT 流水線相結(jié)合來獲得更好的性能。同時,DOCA Flow 可以通過修改可選字段來擴(kuò)展 Geneve 隧道,且通過啟用 Geneve 來替代如 MPLS 等其他隧道方案。DOCA Flow 還支持將硬件哈希計算公開給軟件,對于復(fù)雜的流水線可以對齊軟硬件的哈希結(jié)果。

DOCA 服務(wù)新增功能

基于 BlueField 的分布式路由和 EVPN 服務(wù)

DOCA 基于主機(jī)的網(wǎng)絡(luò)(HBN)服務(wù) 2.1 版本支持 EVPN 增強(qiáng)功能,可為大規(guī)模裸金屬云構(gòu)建無控制器的虛擬私有云(VPC)網(wǎng)絡(luò)。同時,它支持 L3 EVPN 來實(shí)現(xiàn)對稱的 VXLAN 路由,從而實(shí)現(xiàn) L3 的多租戶安全;支持本地 VRF 路由泄露(測試版),從而隔離租戶以安全訪問互聯(lián)網(wǎng)和共享服務(wù);支持多跳 eBGP 對等互連,從而適用于大規(guī)模 VXLAN EVPN 的部署;支持用于有狀態(tài)訪問控制列表(ACL)的 L3 接口綁定,從而實(shí)現(xiàn)對 L3 流量的過濾;支持其它面向 DPU 的接口,以便與其他服務(wù)進(jìn)行集成。

計時即服務(wù)解決方案

DOCA Firefly 服務(wù)利用 BlueField SuperNIC 和 DPU 來加速時間同步。在 DOCA 2.6 版本中,它增加了時鐘跳轉(zhuǎn)時的時間檢查功能,從而可以對伺服計時算法進(jìn)行修復(fù)。DOCA Firefly 服務(wù)可以廣泛的應(yīng)用于電信、傳媒娛樂、金融服務(wù)等行業(yè),比如電信行業(yè)在 5G 移動通信部署的基于網(wǎng)絡(luò)的時間同步,傳媒娛樂行業(yè)基于虛幻引擎(Unreal Engine)的虛擬制作,以及金融服務(wù)行業(yè)滿足 MiFID II 合規(guī)性的高頻交易(HFT)。

更多其他更新

BlueField 平臺增強(qiáng)功能

平臺安全 – UEFI 密碼策略

平臺管理 – BMC 健壯性

BlueField 安裝包簡化升級 – 增加 BMC 和 eROT 固件





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 控制器
    +關(guān)注

    關(guān)注

    112

    文章

    16445

    瀏覽量

    179444
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5076

    瀏覽量

    103718
  • AI設(shè)計
    +關(guān)注

    關(guān)注

    0

    文章

    5

    瀏覽量

    837
  • VxLAN
    +關(guān)注

    關(guān)注

    0

    文章

    24

    瀏覽量

    3870

原文標(biāo)題:基于 NVIDIA DOCA 2.6 實(shí)現(xiàn)高性能和安全的 AI 云

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    利用NVIDIA DPF引領(lǐng)DPU加速計算的未來

    越來越多的企業(yè)開始采用加速計算,從而滿足生成式 AI、5G 電信和主權(quán)的需求。NVIDIA 推出了 DOCA 平臺框架(DPF),該框架提供了基礎(chǔ)構(gòu)建模塊來釋放
    的頭像 發(fā)表于 01-24 09:29 ?211次閱讀
    利用<b class='flag-5'>NVIDIA</b> DPF引領(lǐng)DPU加速<b class='flag-5'>云</b>計算的未來

    NVIDIA 發(fā)布保障代理式 AI 應(yīng)用安全的 NIM 微服務(wù)

    NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務(wù),能夠?yàn)楦餍袠I(yè)構(gòu)建 AI 的企業(yè)提高 AI 的準(zhǔn)確性、安全
    發(fā)表于 01-17 16:29 ?71次閱讀

    賽昉聯(lián)合國芯推出高性能AI MCU芯片,實(shí)現(xiàn)RISC-V+AI新應(yīng)用

    近日,賽昉科技與蘇州國芯科技有限公司(以下簡稱“國芯科技”)合作研發(fā)的高性能AIMCU芯片產(chǎn)品CCR7002已成功通過了內(nèi)部性能和功能測試,實(shí)現(xiàn)了RISC-V+AI技術(shù)的新應(yīng)用。賽昉科
    的頭像 發(fā)表于 11-27 11:46 ?497次閱讀
    賽昉聯(lián)合國芯推出<b class='flag-5'>高性能</b><b class='flag-5'>AI</b> MCU芯片,<b class='flag-5'>實(shí)現(xiàn)</b>RISC-V+<b class='flag-5'>AI</b>新應(yīng)用

    NVIDIA DOCA 2.9版本的亮點(diǎn)解析

    NVIDIA DOCA通過為開發(fā)者提供全面的軟件框架以利用硬件加速來增強(qiáng) NVIDIA 網(wǎng)絡(luò)平臺的功能,從而提高性能安全性和效率。其 AP
    的頭像 發(fā)表于 11-27 11:15 ?404次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.9版本的亮點(diǎn)解析

    使用NVIDIA AI平臺確保醫(yī)療數(shù)據(jù)安全

    三井物產(chǎn)株式會社子公司借助 NVIDIA AI 平臺實(shí)現(xiàn)數(shù)據(jù)集的安全共享并使用在這些數(shù)據(jù)集上建立的強(qiáng)大模型加速藥物研發(fā)。
    的頭像 發(fā)表于 11-20 09:37 ?238次閱讀

    AI高性能計算平臺是什么

    AI高性能計算平臺不僅是AI技術(shù)發(fā)展的基石,更是推動AI應(yīng)用落地、加速產(chǎn)業(yè)升級的重要工具。以下,是對AI
    的頭像 發(fā)表于 11-11 09:56 ?276次閱讀

    NVIDIA DOCA-OFED的主要特性

    NVIDIA DOCA 軟件平臺釋放了 NVIDIA BlueField 網(wǎng)絡(luò)平臺的潛力,并為NVIDIA BlueField和ConnectX設(shè)備提供了所需的所有主機(jī)驅(qū)動程序。
    的頭像 發(fā)表于 11-09 13:50 ?347次閱讀

    NVIDIA SuperNIC推進(jìn)現(xiàn)代AI基礎(chǔ)設(shè)施發(fā)展

    在生成式 AI 時代,加速網(wǎng)絡(luò)對于為大規(guī)模分布式 AI 工作負(fù)載構(gòu)建高性能計算平臺至關(guān)重要。NVIDIA 在加速網(wǎng)絡(luò)領(lǐng)域繼續(xù)保持領(lǐng)先地位,提供先進(jìn)的以太網(wǎng)和 InfiniBand 解決
    的頭像 發(fā)表于 11-06 13:59 ?300次閱讀

    高性能服務(wù)器有什么用處?

    高性能服務(wù)器是一種基于計算技術(shù)的虛擬化服務(wù)器,具有高性能、靈活性、可靠性和安全性等特點(diǎn)。它廣泛應(yīng)用于網(wǎng)絡(luò)托管服務(wù)、數(shù)據(jù)備份與恢復(fù)、大數(shù)據(jù)
    的頭像 發(fā)表于 11-04 10:22 ?280次閱讀

    NVIDIA新增生成式AI就緒系統(tǒng)認(rèn)證類別

    借助全新的 NVIDIA Spectrum-X Ready 和 NVIDIA IGX 認(rèn)證,領(lǐng)先的制造業(yè)合作伙伴將提供高性能系統(tǒng),幫助客戶輕松部署 AI
    的頭像 發(fā)表于 10-10 09:44 ?433次閱讀

    IB Verbs和NVIDIA DOCA GPUNetIO性能測試

    NVIDIA DOCA GPUNetIO 是 NVIDIA DOCA SDK 中的一個庫,專門為實(shí)時在線 GPU 數(shù)據(jù)包處理而設(shè)計。它結(jié)合了 GPUDirect RDMA 和 GPUD
    的頭像 發(fā)表于 08-23 17:03 ?709次閱讀
    IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO<b class='flag-5'>性能</b>測試

    應(yīng)用NVIDIA Spectrum-X網(wǎng)絡(luò)構(gòu)建新型主權(quán)AI

    務(wù)。 Scaleway 是法國的一家擁有高性能基礎(chǔ)設(shè)施的服務(wù)提供商,創(chuàng)立于 1999 年,擁有 80+ 產(chǎn)品及服務(wù),為全球 25,000+ 客戶提供服務(wù),客戶包括 Mistral
    的頭像 發(fā)表于 07-26 18:58 ?1239次閱讀

    借助NVIDIA DOCA 2.7增強(qiáng)AI 數(shù)據(jù)中心和NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架為開發(fā)者提供了豐富的庫、驅(qū)動和 API,以便為 NVIDIA BlueField DPU 和 SuperNIC 創(chuàng)建高性能的應(yīng)用程序和服務(wù)。
    的頭像 發(fā)表于 05-29 09:22 ?545次閱讀

    NVIDIA InfiniBand和UFM平臺賦能高性能AI計算

    在數(shù)據(jù)驅(qū)動的時代,AI網(wǎng)絡(luò)解決方案需要在保障數(shù)據(jù)安全的前提下,實(shí)現(xiàn)對龐大數(shù)據(jù)流的快速處理和對復(fù)雜AI模型的高效訓(xùn)練與推理。
    的頭像 發(fā)表于 03-27 13:49 ?1141次閱讀

    NVIDIA 發(fā)布全新交換機(jī),全面優(yōu)化萬億參數(shù)級 GPU 計算和 AI 基礎(chǔ)設(shè)施

    NVIDIA 軟件實(shí)現(xiàn)了跨 ?Blackwell GPU、新交換機(jī)和 BlueField-3 SuperNIC 的分布式計算,大幅提升了 AI、數(shù)據(jù)處理、高性能計算和
    發(fā)表于 03-19 10:05 ?410次閱讀
    <b class='flag-5'>NVIDIA</b> 發(fā)布全新交換機(jī),全面優(yōu)化萬億參數(shù)級 GPU 計算和 <b class='flag-5'>AI</b> 基礎(chǔ)設(shè)施
    运城百家乐官网的玩法技巧和规则 | 足球百家乐官网投注计算| 筹码百家乐官网的玩法技巧和规则| 百家乐网上玩法| 波音网址| 百家乐官网双龙| 澳门赌百家乐的玩法技巧和规则| 跨国际百家乐的玩法技巧和规则| 林芝县| 狮威百家乐官网娱乐网| 利都百家乐国际娱乐平台| 华亭县| 百家乐官网大西洋| 百家乐投注网中国体育| 王牌百家乐的玩法技巧和规则| 嘉善县| 百家乐路单| 网上娱乐城注册送彩金| 最好百家乐官网的玩法技巧和规则| 全讯网123| 网上百家乐官网正规代理| 百家乐baccarat| 万豪娱乐开户| 24山入宅择日| TT娱乐城开户,| 百家乐神仙道礼包| 镇坪县| 百家乐赌博导航| 澳门百家乐官网鸿福厅| 太阳百家乐官网代理| 百家乐破解分| 百家乐官网扫描技术| 大发888官方指定| 电子百家乐官网技巧| 棋牌英雄传| 百家乐官网玩揽法大全| 大发888娱乐总代理qq| 澳门百家乐官网官方网站破解百家乐官网技巧 | 百家乐规则| 基础百家乐官网的玩法技巧和规则| 德州扑克刷分|