電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))在1G/10G的網(wǎng)絡(luò)發(fā)展階段,就已經(jīng)有了標(biāo)準(zhǔn)網(wǎng)卡NIC投入應(yīng)用,滿足基本的數(shù)據(jù)包傳輸和接收工作。但隨著云計(jì)算、虛擬化、機(jī)密計(jì)算等追求更高性能和更多功能的場(chǎng)景出現(xiàn),傳統(tǒng)的網(wǎng)卡已經(jīng)無(wú)法滿足大家的需求,CPU需要進(jìn)一步減輕在網(wǎng)絡(luò)、存儲(chǔ)和安全負(fù)載,所以整個(gè)行業(yè)邁入了智能網(wǎng)卡階段。
在SmartNIC智能網(wǎng)卡階段,絕大多數(shù)產(chǎn)品都是基于FPGA打造的,但數(shù)據(jù)中心對(duì)IO性能要求越來(lái)越高,就連如今的這些網(wǎng)卡都需要參與更多的數(shù)據(jù)處理工作,也就慢慢轉(zhuǎn)向人們口中常說(shuō)的DPU,在高速的NIC數(shù)據(jù)路徑上加入更多的處理器核心,靠軟件定義網(wǎng)絡(luò)。從2020年開(kāi)始,DPU市場(chǎng)廣受資本市場(chǎng)追捧,不少廠商都在這個(gè)階段開(kāi)啟了收購(gòu),然后紛紛將產(chǎn)品更名為xPU。
從技術(shù)路線上,DPU也被分成了三種,一種是NIC與FPGA或CPU核心依靠PCIe等技術(shù)相連的混合解決方案,另一種是NIC和處理器核心高度集成在一個(gè)SoC內(nèi)的方案,最后則是純粹的高度并行化FPGA方案。
然而到了2024年,DPU市場(chǎng)明顯達(dá)到了一個(gè)新的十字路口。首先DPU在超大規(guī)模云服務(wù)商的受歡迎程度越來(lái)越高,DPU也成了他們實(shí)現(xiàn)差異化最佳的方式之一。幾大DPU廠商仍在推陳出新,但由于產(chǎn)量、封閉等原因,我們還是沒(méi)能看到DPU以更大的規(guī)模在服務(wù)器上鋪開(kāi),即便是在應(yīng)用最多的超大規(guī)模云服務(wù)商的服務(wù)器上,其部署率也不過(guò)剛突破50%。
英偉達(dá),DPU+SuperNIC
2019年3月,英偉達(dá)斥資69億美元收購(gòu)了Mellanox,也因此收獲了其BlueField IP,并開(kāi)始推行DPU的概念。GTC2020年上,英偉達(dá)很快就宣布了由他們打造的首個(gè)BlueField DPU卡BlueField-2,隨后又公開(kāi)了將Ampere架構(gòu)的GPU集成在同一張卡上的BlueField-2X,利用GPU來(lái)提升其算力。
2021年,英偉達(dá)宣布了其最新的BlueField-3,集成了至多16個(gè)Arm A78核心,支持PCIe 5.0。但也就是從這一代開(kāi)始,英偉達(dá)對(duì)于BlueField的定位出現(xiàn)了分支,也就是全新的SuperNIC。在英偉達(dá)的描述中SuperNIC又是一個(gè)用于提升網(wǎng)絡(luò)性能的設(shè)備,與SmartNIC、DPU和IPU聽(tīng)起來(lái)好像也沒(méi)有什么不同。但SuperNIC專(zhuān)門(mén)針對(duì)AI加速網(wǎng)絡(luò)做了優(yōu)化。
BlueField DPU路線圖 / 英偉達(dá)
其中BlueField-3 DPU和過(guò)去的DPU產(chǎn)品定位保持一致,用于卸載和加速網(wǎng)絡(luò)、存儲(chǔ)、安全和管理功能。而B(niǎo)lueField-3 SuperNIC則主要用于網(wǎng)絡(luò)活動(dòng)更密集、需要大量并行運(yùn)算的場(chǎng)景,也就是AI服務(wù)器/GPU服務(wù)器。
在拓展效率上,SuperNIC也要更強(qiáng)一些。比如在單個(gè)系統(tǒng)中,往往只能容納1到2個(gè)BlueField-3 DPU,卻可以容納至多8個(gè)BlueField SuperNIC。而且單個(gè)系統(tǒng)中,GPU與SuperNIC 1:1的比例能夠進(jìn)一步提升AI服務(wù)器的效率。
今年即將推出的BlueField 4將進(jìn)一步增加晶體管規(guī)模的同時(shí),網(wǎng)絡(luò)性能將用于支持800Gbps的數(shù)據(jù)中心網(wǎng)絡(luò)。不僅如此,英偉達(dá)決心在其算力上實(shí)現(xiàn)巨大提升,從BlueField-3的1.5TOPS,直接暴漲到1000TOPS。
AMD,SmartNIC+Pensando
為了在服務(wù)器市場(chǎng)搶占更多的市場(chǎng)份額,我們可以看到AMD這幾年不斷地在CPU和GPU的設(shè)計(jì)上推陳出新,一點(diǎn)點(diǎn)地蠶食英特爾的市場(chǎng)份額,除此之外在SmartNIC和DPU領(lǐng)域,AMD也有所布局。
首先是SmartNIC,作為FPGA大廠,Xilinx在被AMD收購(gòu)前已經(jīng)有了優(yōu)秀的Alveo系列SmartNIC產(chǎn)品陣容,尤其是在對(duì)延遲極為敏感的金融電子交易領(lǐng)域,AMD Alveo系列加速卡可謂一騎絕塵。以最新的Alveo UL3524為例,其收發(fā)延遲可以降低至3ns以下。
在DPU上,AMD也欲與英偉達(dá)、英特爾同臺(tái)競(jìng)爭(zhēng)。2022年4月,AMD宣布斥資19億美元購(gòu)買(mǎi)DPU廠商Pensando。Pensando作為市面為數(shù)不多的DPU廠商,主要優(yōu)勢(shì)在于極高的性能。從其路線圖上來(lái)看,目前AMD已經(jīng)實(shí)現(xiàn)了第一代DPU Capri(200G)和第二代Elba(400G)兩大DPU的量產(chǎn)。AMD去年也發(fā)布了基于其P4 DPU管線結(jié)合16個(gè)Arm A72核心的Giglio,在第二代的Elba DPU的基礎(chǔ)上對(duì)功耗和性能進(jìn)行了進(jìn)一步優(yōu)化。
Pensando DPU路線圖 / AMD
AMD預(yù)計(jì)在今年會(huì)發(fā)布第三代Pensando DPU,Salina。Salina將采用5nm工藝打造,實(shí)現(xiàn)兩倍于上一代的性能,與英偉達(dá)的BlueField 4一樣支持800G網(wǎng)絡(luò)。而且AMD在Pensando DPU上做好了前向兼容,節(jié)省了應(yīng)用程序開(kāi)發(fā)所需的時(shí)間。
也正是在收購(gòu)后不久,AMD就宣布其Pensando卡成為首批支持由戴爾、HPE和聯(lián)想等頭部服務(wù)器供應(yīng)商提供的VMware vSphere 8的DPU解決方案之一,在vSphere 的支持下,服務(wù)器的CPU網(wǎng)絡(luò)服務(wù)負(fù)載將進(jìn)一步降低。除了服務(wù)器廠商之外,AMD Pensando也已經(jīng)收獲了Azure、IBM Cloud和Oracle Cloud等云服務(wù)客戶。
在AMD去年Q1的財(cái)報(bào)會(huì)議上,AMD提到他們的Pensando DPU正在為微軟的Azure提供加速連接服務(wù)。在支持的實(shí)例中,每個(gè)設(shè)備都部署了六個(gè)高性能的AMD Pensando DPU,所有用戶程序的虛擬機(jī)都能訪問(wèn)這些DPU。微軟的加速連接作為一項(xiàng)vNIC租賃業(yè)務(wù),用戶可以通過(guò)開(kāi)啟該服務(wù)來(lái)改善網(wǎng)絡(luò)連接效率,相比傳統(tǒng)的SmartNIC而言,每秒連接數(shù)提升超過(guò)10倍。
大量普及卻“封閉”的DPU生態(tài)
要說(shuō)市面上最為普及的DPU,那必定是亞馬遜的AWS Nitro系列產(chǎn)品,盡管亞馬遜并沒(méi)有用到DPU這個(gè)名字。2016年,亞馬遜收購(gòu)了以色列公司Annapurna Labs,隨后就在內(nèi)部開(kāi)啟了最早的自研服務(wù)器芯片計(jì)劃,Nitro。
截至今日,亞馬遜自研的AWS Nitro芯片已經(jīng)迭代了5個(gè)版本,AWS云服務(wù)上500多種實(shí)例都集成了AWS Nitro芯片??紤]到AWS全球第一大云服務(wù)商的規(guī)模,AWS Nitro可謂是名副其實(shí)的第一大DPU。
然而,AWS Nitro是并不對(duì)外出售的,屬于AWS獨(dú)占的自研產(chǎn)品。很明顯,自研的DPU更能節(jié)省成本,并針對(duì)自己的服務(wù)器架構(gòu)量體裁衣,這樣一個(gè)大幅提高競(jìng)爭(zhēng)力的產(chǎn)品,亞馬遜自然不會(huì)選擇對(duì)外出售。
采取同樣策略的基本是云服務(wù)廠商,包括阿里巴巴和微軟。阿里云的MoC卡/神龍芯片CIPU也是類(lèi)似的產(chǎn)品,從2016年起,阿里巴巴就開(kāi)始自研相關(guān)的虛擬化芯片了,直到2018年MoC卡的正式落地。2021年云棲大會(huì),阿里云發(fā)布了第四代神龍架構(gòu),實(shí)現(xiàn)了網(wǎng)絡(luò)和存儲(chǔ)操作的完全硬件卸載,進(jìn)一步增強(qiáng)存儲(chǔ)IO和網(wǎng)絡(luò)IO性能,并率先支持大規(guī)模的彈性RDMA加速。
去年年初,微軟正式宣布收購(gòu)DPU開(kāi)發(fā)商Fungible。這家DPU廠商一度陷入市場(chǎng)競(jìng)爭(zhēng)較大,但產(chǎn)品難產(chǎn)的局面,此前被傳出售給Meta失敗后,已經(jīng)在采取裁員和縮減產(chǎn)品組合。隨著微軟收購(gòu)后,其團(tuán)隊(duì)都將加入微軟的數(shù)據(jù)中心基礎(chǔ)設(shè)施建設(shè)開(kāi)發(fā)團(tuán)隊(duì)。盡管收購(gòu)至今,微軟還沒(méi)有拿出對(duì)應(yīng)的產(chǎn)品,但可以想象其DPU方案必定會(huì)廣泛用于Azure云服務(wù)器,從而拋棄第三方的方案,或是為后者統(tǒng)一接口。
寫(xiě)在最后
據(jù)市場(chǎng)研究公司Dell'Oro Group的預(yù)測(cè),從DPU概念興起的2020年到2028年,市場(chǎng)總值將維持25%的年復(fù)合增長(zhǎng)率,其中絕大多數(shù)市場(chǎng)份額來(lái)自排名前四的美國(guó)云服務(wù)廠商,其次才是來(lái)自中國(guó)的前四大云服務(wù)廠商。
排除掉自研的云服務(wù)廠商們,DPU市場(chǎng)并不算大,在20億美元左右,但持續(xù)增長(zhǎng)的勢(shì)頭并沒(méi)有減弱。即便是第三方DPU方案商,比如英偉達(dá)、AMD、英特爾、Marvell、Achronix和云豹智能等,也有機(jī)會(huì)憑借著更高的性能和AI服務(wù)器的熱潮,打進(jìn)頭部云服務(wù)商的服務(wù)器中。但對(duì)于更小規(guī)模的組織來(lái)說(shuō),他們依然面臨著選擇受限、部署困難的問(wèn)題。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
DPU
+關(guān)注
關(guān)注
0文章
368瀏覽量
24260 -
AI服務(wù)器
+關(guān)注
關(guān)注
2文章
110瀏覽量
4957
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
EE-303:將VisualDSP線程安全庫(kù)與第三方RTOS配合使用
電子發(fā)燒友網(wǎng)站提供《EE-303:將VisualDSP線程安全庫(kù)與第三方RTOS配合使用.pdf》資料免費(fèi)下載
發(fā)表于 01-07 14:09
?0次下載
第三方檢測(cè)機(jī)構(gòu)該如何提升核心競(jìng)爭(zhēng)力?
在國(guó)家“一帶一路”和“智能制造2025”等政策的引領(lǐng)下,面對(duì)競(jìng)爭(zhēng)日益激烈的國(guó)際環(huán)境,作為全球最大的制造業(yè)國(guó)家,中國(guó)的檢測(cè)行業(yè)正經(jīng)歷著迅猛的發(fā)展,成為全球增長(zhǎng)最快、潛力最大的市場(chǎng)之一。 第三方檢測(cè)逐漸
博世自研PM6 SiC功率模塊產(chǎn)品介紹
當(dāng)今汽車(chē)行業(yè)正處于十字路口,全球汽車(chē)市場(chǎng)正快速轉(zhuǎn)向更加清潔、更為可持續(xù)的新能源交通解決方案,而汽車(chē)功率電子將在其中扮演關(guān)鍵角色。為了應(yīng)對(duì)這一趨勢(shì),博世于近日推出了新一代SiC功率模塊(PM6),重新定義了車(chē)規(guī)級(jí)功率電子技術(shù)。
鴻蒙Flutter實(shí)戰(zhàn):05-使用第三方插件
# 鴻蒙Flutter 實(shí)戰(zhàn):使用第三方插件
在鴻蒙Flutter開(kāi)發(fā)中,如果涉及到使用原生功能,就要使用插件。使用插件有兩種方式,一種是自己編寫(xiě)原生ArkTS代碼,在Dart側(cè)調(diào)用。另外一種
發(fā)表于 10-22 21:54
三維天地低代碼開(kāi)發(fā)平臺(tái)助力第三方質(zhì)檢行業(yè)數(shù)據(jù)可視化
第三方檢驗(yàn)是由獨(dú)立于買(mǎi)賣(mài)雙方利益之外的第三方機(jī)構(gòu)(例如專(zhuān)業(yè)的監(jiān)督檢驗(yàn)機(jī)構(gòu))執(zhí)行的,這些機(jī)構(gòu)以公正、公平、權(quán)威的非當(dāng)事人身份,依據(jù)雙方共同認(rèn)可的法律、標(biāo)準(zhǔn)和合同等進(jìn)行商品的符合性檢驗(yàn)和認(rèn)證活動(dòng)
請(qǐng)問(wèn)esp8266會(huì)開(kāi)放使用第三方云服務(wù)器嗎?
如題,esp8266會(huì)開(kāi)放使用第三方云服務(wù)器嗎,如百度,阿里云服務(wù)器?
發(fā)表于 07-12 11:40
是否有可能在支持gdb的第三方集成開(kāi)發(fā)環(huán)境中使用DAS配置調(diào)試?
是否有可能在支持 gdb 的第三方集成開(kāi)發(fā)環(huán)境中使用 DAS 配置調(diào)試?
發(fā)表于 07-02 07:29
微軟或?qū)㈤_(kāi)放Xbox主機(jī)授權(quán)給第三方廠商
據(jù)悉,5 月 26 日,知名媒體 Windows Central 的編輯 Jez Corden 揭露了微軟即將遵循第三方手柄流程,允許在其 XBOX 主機(jī)上引入第三方產(chǎn)品。
MacPaw將在歐盟成員國(guó)推出第三方應(yīng)用商店Setapp
5月14日,MacPaw正式宣布將在今年5月14日在歐盟成員國(guó)面向蘋(píng)果iPhone推出第三方應(yīng)用商城Setapp。自今年2月起,MacPaw已著手籌備該平臺(tái)。S
谷歌開(kāi)放ZenDeviceEffects API,助第三方應(yīng)用實(shí)現(xiàn)睡前屏幕管理
據(jù)報(bào)道,谷歌近日在安卓 15 開(kāi)發(fā)者預(yù)覽版 2 中推出了全新 ZenDeviceEffects API,允許第三方應(yīng)用訪問(wèn)數(shù)字健康的就寢模式功能。
Labview如何內(nèi)嵌操作第三方EXE程序!
自己在網(wǎng)上搜了下相關(guān)資料,能把第三方EXE內(nèi)嵌進(jìn)入容器里,但是有個(gè)問(wèn)題,這個(gè)第三方軟件必須手動(dòng)拖到容器正中間,手動(dòng)最大化。請(qǐng)問(wèn)有什么方法可以自動(dòng)實(shí)現(xiàn)嗎?
下圖是我內(nèi)嵌的POLL 軟件。如圖!
發(fā)表于 04-18 14:26
微軟或?qū)⒁?b class='flag-5'>第三方數(shù)字游戲商店至Xbox平臺(tái)
微軟選擇引入這些第三方游戲平臺(tái),一方面可以增加自身?yè)碛械挠布Y源和服務(wù)優(yōu)勢(shì);另一方面,也是為了吸引那些在電腦端能夠自由選擇游戲購(gòu)買(mǎi)渠道的游戲用戶。據(jù)悉,此前的Xbox系列產(chǎn)品都是只內(nèi)置自家的商城。
Meta Quest頭顯將支持多款安卓第三方應(yīng)用并行
Meta已悄然啟動(dòng)了與此相關(guān)的功能,意味著Quest頭顯可同時(shí)操作多個(gè)第三方Android應(yīng)用。在此之前,Quest對(duì)第三方Android應(yīng)用有嚴(yán)格限制,用戶每次僅能打開(kāi)一個(gè),無(wú)法實(shí)現(xiàn)同屏幕并行多個(gè)第三方應(yīng)用進(jìn)程。
蘋(píng)果iOS 17.4版允許歐盟地區(qū)用戶使用第三方應(yīng)用商店下載應(yīng)用
3月6日,蘋(píng)果正式推出iOS 17.4版本,首次符合歐州《數(shù)字市場(chǎng)法》規(guī)定,引入“第三方應(yīng)用商店”選項(xiàng),讓iPhone用戶能從非App Store處下載應(yīng)用程序。
MacPaw將于4月在歐洲市場(chǎng)推出Setapp第三方應(yīng)用商城
3月1日?qǐng)?bào)道,知名廠商MacPaw于今日發(fā)表聲明,宣稱其自有的第三方應(yīng)用商城Setapp將進(jìn)軍歐洲市場(chǎng),發(fā)布會(huì)定于今年4月舉行,并且官網(wǎng)預(yù)告了可供用戶試用的候選頁(yè)面,以吸引更多人參與到Setapp移動(dòng)版本Beta的測(cè)試中來(lái)。
評(píng)論