遠程邊緣計算需要高性能AI和訓練解決方案來支持高階工作負載以提高生產力
Supermicro, Inc.(納斯達克股票代碼:SMCI)作為AI、云端、存儲和5G/邊緣領域的全方位IT解決方案制造商,正在擴展其AI解決方案產品組合,讓客戶在公共空間、零售商店或工業基礎架構等邊緣位置能有效運用AI的強大性能。通過使用搭載NVIDIA GPU的Supermicro應用優化服務器,可更輕松地微調預訓練模型(Pre-trained Model)及將AI推論解決方案部署在產生數據的邊緣端,進而縮短響應時間與改善決策。
Supermicro Solutions for Edge AI
Supermicro總裁兼首席執行官梁見后(Charles Liang)表示:"Supermicro擁有最多元的邊緣AI解決方案產品組合,能支持客戶用于邊緣環境的預訓練模型。Supermicro Hyper-E服務器搭載兩個第五代Intel?Xeon?處理器并支持最多三個NVIDIA H100 Tensor Core GPU,能為邊緣AI提供優異的性能。借由這些具有最高8TB內存的服務器,我們能將數據中心的AI處理性能帶至邊緣位置。隨著企業通過在邊緣端處理AI數據來建立競爭優勢,Supermicro也將繼續為行業提供優化解決方案。"
通過這些服務器的優化與升級,用戶不再需要將數據傳回云端進行處理,只需必要時把信息擷取回邊緣端即可。同時,客戶現在可以使用預先訓練且性能優化后的大語言模型(LLM),并通過NVIDIA AI Enterprise在其邊緣位置使用,以便在靠近數據生成端進行實時、精準的決策。
NVIDIA合作伙伴聯盟副總裁Kevin Connors表示:"越來越多來自醫療、零售、制造和汽車等領域的企業有意在邊緣端運用AI技術。Supermicro的全新NVIDIA認證系統由NVIDIA AI平臺驅動,提供了最高性能的加速計算基礎架構,并通過NVIDIA AI Enterprise軟件協助運行邊緣AI 工作負載。"
例如,Supermicro的Hyper-E服務器SYS-221HE系列便針對邊緣訓練和推理進行了優化,而其具備短機身與前置I/O設計的系統機型搭載了雙路CPU。此系統最多容納三個雙寬NVIDIA Tensor Core GPU,包括NVIDIA H100、A10、L40S、A40和A2 GPU。這些GPU為Supermicro Hyper-E提供足夠的計算能力,可在收集、分析和存儲資料的邊緣端處理AI 工作負載。Supermicro SYS-221HE也提供前置或后置維護選項,使該服務器可被安裝在各種環境內。包括Eviden等合作伙伴正在打造邊緣AI解決方案,進而改善傳統零售商店內的客戶體驗,這些都是Supermicro Hyper-E服務器的性能和靈活性可被運用的案例。
Supermicro的先進邊緣服務器還包括:
SupermicroSYS-621C-TNR12R(CloudDC系列)是一款適用于云端數據中心的一體成型機柜式平臺。這款緊湊型2U系統能在其25.5吋機箱內支持最多兩個雙寬GPU和4至12個SATA/SAS硬盤槽。這些硬盤槽可選擇性搭配完整NVMe支持。
SupermicroSYS-111E-FWTR是一款高密度邊緣系統。該系統高度為1U,并搭載第五代Intel Xeon處理器和兩個PCIe 5.0 x16 FHFL插槽,非常適合用于各種網絡和邊緣應用。
緊湊型SupermicroSYS-E403-13E可搭載第五代Intel Xeon處理器和最多三個NVIDIA GPU,并通過其Box PC機型規格提供數據中心等級的性能。該系統的緊湊機體設計使其能被部署在狹小空間內,例如壁掛式機柜中,或作為便攜設備使用。
超短機身SYS-211E-FRN2T的系統深度為300mm,專為空間有限的網絡邊緣環境所設計。該系統可搭載最高第五代Intel Xeon處理器,并提供AC或DC電源設計選項。
SYS-211SE-31D/A作為強大且多功能的SuperEdge系統之一,是具有三個獨立節點的多節點系統。此系統每個節點均具有第五代Intel Xeon處理器、三個PCIe 5.0 x16插槽和最高2TB的DDR5內存。這款2U系統不但具有前置I/O和較廣的運行溫度范圍,其短機身設計更是非常適合數據中心外部的部署。
SYS-E300-13AD是一款緊湊型物聯網服務器。該服務器搭載第13代Intel Core處理器,機型尺寸僅265x226mm,是能容納NVIDIA GPU的最小系統,十分適合為邊緣端提供分布式AI性能。
歡迎蒞臨Supermicro在2024年世界移動通信大會的展位。該大會在西班牙巴塞羅那舉辦,Supermicro展位位于2 號廳內的2D35展位。
零售業智能應用專家StoreGenius首席執行官Jacque Istok表示:"Eviden的 AI零售解決方案基于Supermicro邊緣系統和NVIDIA技術,徹底改變了人們在商店等空間內導覽和互動的方式。通過商店的3D模型和能傳達適當信息的交互式聊天機器人,此解決方案為客戶提供交互式且個人化的購物模式,進而改善購物體驗。融合逼真的臉部動畫、先進的語音識別和3D建模,使虛擬購物幾乎如同在實體商店一樣真實。"
-
AI
+關注
關注
87文章
31513瀏覽量
270314 -
Supermicro
+關注
關注
0文章
31瀏覽量
9347 -
邊緣計算
+關注
關注
22文章
3121瀏覽量
49514
發布評論請先 登錄
相關推薦
評論