AI聊天機器人回答復雜問題十分迅速、智能手機能播放高清視頻不卡頓的核心,毋庸置疑是帶寬的不斷提高和數據中心的迅速崛起。市場對帶寬的需求仍在不斷增長,數據中心正在轉向分散式架構,并在加速器上運行工作負載。Compute Express Link(簡稱CXL)是這些創新背后的核心技術。CXL是一種具有緩存一致性的從CPU到設備的互聯技術,為處理器、內存擴展和AI加速器提供了強大的連接能力。
XConn創立于2020年,在實現下一代人工智能和高性能計算(HPC)應用方面表現突出,該公司的使命是通過高性能、高能效、可擴展且經濟高效的互連解決方案,加快數據中心和HPC的人工智能計算速度。
最近,XConn公司宣布其XC50256 CXL 2.0數據交換芯片在FinFET工藝上實現了首次流片成功。這款CXL數據交換芯片專為數據中心和內存池應用而設計,旨在實現最高吞吐量、最低延遲和最低功耗。這款創新型產品采用了新思科技的CXL 2.0控制器和PCIe 5.0 PHY IP。通過在復雜的數據交換芯片中內置對PCIe的支持并實施CXL,XConn致力于為客戶提供一條更加順暢的CXL采用之路。那么,XConn這款業界首個CXL數據交換芯片是如何開發的?下文一起來探討一下。
數據中心架構設計為何發生改變
PC和筆記本電腦過去經常用于處理繁重的計算工作負載,但在如今這個AI驅動的數字世界中,數據中心成為了處理這些工作的主力設備。據statista預測,到2025年,全球數據生成量預計將達到180 ZB。對于管理者海量信息的數據中心而言,高帶寬和低延遲成了保持數字世界正常運轉的重要基石。
隨著數據需求的不斷增長,數據中心架構正在發生變革。超大規模世界正朝著解耦的方向發展:將計算、存儲和網絡等同質資源分別置于不同模塊中,并以光互連的方式進行連接,然后由中央智能單元負責確定并從每個模塊中提取所需的數據。這種架構有利于充分釋放剩余資源,使其能夠用于處理其他工作負載。
得益于分散化趨勢,內存池化成為可能,并且在數據中心內發揮越來越重要的作用。傳統的數據中心架構中,每個服務器都有自己獨立的內存集合,運行在上面的任何應用程序只能訪問這些特定內存,這限制了單個應用程序能使用的內存量。
然而,如今的數據驅動型應用,如ChatGPT等大型語言模型(LLMs),對內存的需求極為旺盛。不論為特定服務器分配內存資源,這些大型應用總會不夠用并需要更多。因此,解決這一困境的最佳方式就是打破內存壁壘,允許多臺服務器之間共享和集中內存資源。
當運行在特定服務器上的任何程序都能根據應用需求訪問內存池時,整體的內存使用效率會大大提高。即使請求的內存量很大,內存池也有TB級容量,可以支持大型內存應用。這樣,無論是大型語言模型還是其他數據密集型應用,都能獲得所需的內存,從而充分發揮性能,實現高效的數據處理和分析。
在數據中心架構中,加速器扮演著舉足輕重的角色。CXL技術提供了直達內存的通道,讓加速器和處理器能夠訪問相同數據。這種方式不僅避免了數據在系統內的冗余復制,還通過CXL的智能內存管理,實現了內存的動態分配和釋放。這意味著,當應用程序需要內存時,CXL會及時提供所需資源;而當應用程序完成任務后,CXL會迅速回收這些內存,以供其他應用使用。這種高效的內存管理策略不僅降低了延遲,還減少了軟件開銷,使系統能夠更好地處理Multi-Die系統中的die-to-die通信。隨著Multi-Die系統在數據中心的應用日益廣泛,CXL技術的這一優勢將變得更加重要和突出。
CXL標準憑借其緩存一致性和超低延遲,備受數據中心SoC開發者的青睞。該標準擁有卓越的計算卸載能力,與PCI Express兼容,釋放了無限的設計可能。此外,CXL標準還兼備低功耗特性,對于滿足現代數據中心的高能耗需求至關重要,據統計,數據中心的能源消耗量約占全球能源的1%??梢哉f,CXL標準不僅是技術的革新,更是未來數據中心節能減碳的重要推手。
超高帶寬CXL 2.0數據交換芯片
XConn的CXL 2.0數據交換芯片提供了比競爭對手高出兩倍的帶寬,并且能夠實時或近實時做出響應。在設計數據交換芯片時,XConn深知讓來自不同廠商的不同設備能夠相互通信的關鍵在于其可靠性。對于數據中心的每個組件而言,可靠性、可用性和可服務性(RAS)都是不容忽視的關鍵屬性。
要想盡可能地減少互操作性問題,就離不開成熟可靠的IP。在IP方面,XConn選擇向新思科技尋求幫助,因為我們的CXL控制器和PHY應用非常廣泛,并獲得了眾多企業的高度認可。除了具有RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP,XConn還使用了用于CXL的新思科技驗證IP。XConn團隊與新思科技的多個工程團隊密切合作,在爭取將CXL數據交換芯片快速推向市場的過程中,得到了強有力的支持。
為了最小化互操作性問題,業界普遍采用經驗證的IP。XConn選擇新思科技作為其IP供應商,因為我們的CXL控制器和PHY在行業中已經得到了非常廣泛的應用,并得到了許多公司的驗證。除了具備RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP外,XConn還使用了用于CXL的新思科技驗證IP。
XConn團隊與新思科技的各個開發團隊緊密合作,在將CXL數據交換芯片推向市場的過程中得到了充分支持。他們憑借出色的技術實力和專業知識,成功打造了一款具備卓越性能和可靠性的CXL數據交換芯片,為數據中心的高效運行提供了有力保障。
開發基于CXL 3.0的下一代數據交換芯片
XConn正在研發基于CXL 3.0和PCIe 6.0的下一代數據交換芯片設計,這兩項技術將提供雙倍帶寬并降低延遲。XConn未來還將繼續與新思科技合作,并將新思科技的CXL 3.0和PCIe 6.0 IP用于其新設計。
隨著數據量和數據中心需求的迅速增長,CXL標準將在數據中心的發展中發揮越來越重要的作用。XConn的CXL數據交換芯片是CXL生態系統中的關鍵元素,助力打造HPC和AI應用的美好未來。
-
處理器
+關注
關注
68文章
19409瀏覽量
231194 -
智能手機
+關注
關注
66文章
18551瀏覽量
181063 -
新思科技
+關注
關注
5文章
808瀏覽量
50424 -
HPC
+關注
關注
0文章
324瀏覽量
23853 -
AI加速器
+關注
關注
1文章
69瀏覽量
8673
原文標題:新思科技助力業界首個CXL 2.0數據交換芯片首次流片即成功
文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論