衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ChatGPT熱潮引發AI服務器爆單

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2023-02-22 01:13 ? 次閱讀
電子發燒友網報道(文/李彎彎)近日消息,隨著ChatGPT的熱潮,華為昇騰AI服務器、拓維信息兆瀚RA5900-A系列AI訓練服務器等詢單量及預定量爆發式增長。

AI服務器通常搭載GPUFPGAASIC等加速芯片,利用CPU與加速芯片的組合可以滿足高吞吐量互聯的需求,為自然語言處理、計算機視覺機器學習等AI應用場景提供強大的算力支持,支撐AI算法訓練和推理。

AI服務器與普通服務器的區別

服務器是一種高性能計算機,作為網絡的節點,存儲、處理網絡上80%的數據、信息,因此也被稱為網絡的靈魂。普通服務器是以CPU為計算能力的提供者,采用串行架構,擅長邏輯計算和浮點計算。由于邏輯判斷需要大量的分支跳轉,使得CPU的結構復雜,計算能力的提高主要靠堆積更多的核心數來實現。

在大數據、云計算人工智能、元宇宙、數據孿生和物聯網等網絡技術的應用中,互聯網上的數據呈現出幾何倍數的增長,這對以CPU為主要計算能力來源的傳統服務是巨大的考驗。目前,CPU的制程工藝和單個CPU的核心數接近極限,但數據的增加仍在繼續,因此有必要提高服務器的數據處理能力。在這種環境下,AI服務器應運而生。

AI服務器與普通服務器的區別:在服務器的硬件架構方面,AI服務器是異構服務器,可以根據應用范圍采用不同的組合方式,如CPU + GPU、CPU + TPU、CPU + 其他加速卡等。與普通服務器相比,內存、存儲、網絡沒有區別,主要是大數據、云計算、人工智能等方面需要更多的內存,滿足各種數據的收集整理。

普通GPU服務器一般是單卡或者雙卡,AI服務器需要承擔大量計算,一般配置四塊以上的GPU卡,甚至搭建一個AI服務器集群;AI服務器需要獨特的設計,由于AI服務器有多個GPU卡,需要對系統結構、散熱和拓撲進行專門設計,以滿足AI服務器長期穩定運行的要求。

目前市場上的AI服務器普遍采用CPU + GPU,由于GPU和CPU形式不同所以AI服務器采用并行計算模式,善于梳理圖形渲染、機器學習等密集數據操作。在GPU上,NVIDIA優勢明顯,GPU單卡核心數可達近千個,如配置16張NVIDIATesla V100 Tensor Core 32GB GPUs核心數可超過10240個,計算性能高達每秒2千萬億次。而且經過近幾年市場的發展,也證實了CPU +GPU異構服務器在當前環境下確實有很大的發展空間。

AI服務器市場現狀及主要玩家

近幾年,中國市場的AI服務器出貨量和滲透率都在提升。未來預計隨著AI模型訓練和應用的興起,需要支持AI功能的服務器將持續增加。IDC預計,中國AI服務器2021年的市場規模為57億美元,同比增長61.6%,到2025年市場規模將增長到109億美元,CAGR為17.5%。

根據其此前發布的《中國加速計算市場(2021年下半年)跟蹤報告》,2021年全年中國AI服務器市場規模達350.3億元,同比增長68.6%。浪潮信息、寧暢、新華三、華為、安擎位居前五,占據了82.6%的市場份額。其中,浪潮AI服務器市場占有率達52.4%。

近日,浪潮信息在某平臺上表示,公司人工智能服務器領域的市占率位居全球AI服務器市場第一,在ChatGPT和AIGC相關方向上已有布局相關業務。日前消息,淮海智算中心攜手浪潮信息進行了超大規模參數AI大模型訓練性能測試,實測數據表明,千億參數規模的自然語言AI單體大模型在淮海智算中心計算平臺上的訓練算力效率達53.5%,刷新了業內AI大模型訓練算力效率新高。

寧暢在AI服務器方面已經發布多款產品,比如X620 G50,這是一款基于第四代英特爾至強可擴展處理器的高端2U機架式服務器。可根據業務需求對資源進行靈活配置,滿足各種各行業應用需求。完美適用于機器學習、AI推理、云計算、高性能計算、云存儲、大數據、虛擬化、辦公系統等應用場景。

還有上文提到的拓維信息,早在ChatGPT爆發之前,就已布局了一系列人工智能產品。該公司表示,旗下兆瀚智能計算產品包括AI推理、AI訓練、AI集群等,具有超強AI算力、更優AI能效、最佳AI拓展等產品特點,在行業內有領先優勢。

未來,拓維信息將持續重點關注先進計算、人工智能等前沿技術領域,加大在人工智能產業的規劃布局及基礎軟硬件產業投入,充分發揮自身在人工智能領域的影響力。通過與華為的全方位深入合作,推出基于昇騰處理器的兆瀚AI產品,努力構筑業界超強AI算力平臺。

中科曙光在AI服務器上也有布局。據介紹,中科曙光已推出“全浸沒式液冷AI訓練專用服務器”,與百度、復旦大學等企業及科研院所深度合作,形成了諸多基于AI模型的聯合解決方案,支持了國內多個千億級以上參數規模的AI大模型訓練,攻克類腦智能、基因技術自動駕駛等多個前沿領域AI難題。

此外還有中國長城神州數碼廣電運通等。中國長城芯片、整機、服務器、網絡交換機、路由器、工業控制系統、容災備份產品等自主安全產品譜系逐步成為相關市場的主導產品,AI服務器已實現量產。神州數碼之前推出了神州鯤泰人工智能推理服務器,以“鯤鵬+昇騰”為核心,可提供128個處理核心的算力,同時最大可支持8張華為Atlas 300推理卡,提供256GB推理緩存,以及最大704 TOPS INT8的AI算力。

小結

過去幾年人工智能發展迅速,作為算力支撐的AI服務器市場在不斷增加。如今在ChatGPT爆火下,人工智能訓練和推理尋求將持續擴大,預計未來AI服務器市場規模將繼續保持高速增長趨勢。而在其中布局已久的浪潮、中科曙光、寧暢、拓維信息等無疑將更具優勢。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31523

    瀏覽量

    270339
  • ChatGPT
    +關注

    關注

    29

    文章

    1569

    瀏覽量

    8061
收藏 人收藏

    評論

    相關推薦

    ChatGPT短暫“罷工”,云服務器還能用嗎?

    日,備受歡迎的AI聊天機器人ChatGPT突然遭遇了一次短暫的服務中斷,這讓不少用戶心生疑慮:云服務器,這個支撐起無數互聯網應用的強大后盾,究竟還靠譜嗎?
    的頭像 發表于 12-12 11:45 ?205次閱讀

    什么是AI服務器AI服務器的優勢是什么?

    AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯的需求,為自然語言處理、計算機視覺、機器學習等人工智能應用場景提
    的頭像 發表于 09-21 11:43 ?1046次閱讀

    AI服務器:開啟智能計算新時代

    一、AI服務器的定義與特點 AI服務器的定義 AI服務器是一種基于云計算技術,專為處理人工
    的頭像 發表于 08-09 16:08 ?1041次閱讀

    AI服務器的特點和關鍵技術

    AI服務器,即人工智能服務器,是一種專門設計用于運行和加速人工智能(AI)算法與模型的硬件設備。隨著人工智能技術的快速發展和普及,AI
    的頭像 發表于 07-17 16:34 ?1985次閱讀

    AI服務器與WoA筆電熱潮推動MLCC市場增長

    隨著科技的飛速發展,人工智能(AI)與高性能計算已成為推動產業升級的重要力量。根據TrendForce集邦咨詢的最新研究,今年上半年AI服務器訂單需求呈現出穩健增長的態勢,這一趨勢不僅反映了市場對
    的頭像 發表于 07-11 15:06 ?538次閱讀

    ai服務器是什么架構類型

    AI服務器,即人工智能服務器,是專門為人工智能應用設計的高性能計算服務器AI服務器的架構類型有
    的頭像 發表于 07-02 09:51 ?1235次閱讀

    ai服務器和通用服務器的區別在哪

    AI服務器和通用服務器的區別主要體現在以下幾個方面: 硬件配置 AI服務器和通用服務器在硬件配置
    的頭像 發表于 07-02 09:46 ?1200次閱讀

    性能與安全同樣重要,蘋果的AI服務器

    Intelligence通過生成式模型來改善用戶的使用體驗。事實上,蘋果一共有兩個自主開發的AI模型,一個用于設備端AI的30億參數模型,以及一個更大的LLM,其服務器資源滿足更多的查詢。 ? 蘋果
    的頭像 發表于 06-25 00:10 ?2945次閱讀

    英偉達新業務動向:AI服務器市場的新變局

    在全球AI技術迅猛發展的浪潮中,英偉達正積極布局,尋求新的業務增長點。據最新報道,英偉達計劃為其即將推出的GB200旗艦人工智能芯片設計服務器機架,此舉無疑將對該領域的傳統廠商如戴爾、HPE和AMD等構成一定壓力,甚至可能引發
    的頭像 發表于 06-21 14:11 ?1078次閱讀

    差分晶振在AI服務器中的應用案例

    隨著ChatGPT技術不斷發展和應用,我國AI服務器市場保持較快增速(預計 2023年我國服務器市場規模將增至308億美元),而AI
    發表于 06-17 15:15 ?1次下載

    英偉達首次向OpenAI供應AI服務器,鴻海出貨預期將增長

    自2017年起,鴻海便開始與英偉達合作開發服務器,其中包括世界上首臺AI服務器HGX1。值得注意的是,OpenAI成立之初,有一張照片展示了黃仁勛贈予馬斯克一臺AI
    的頭像 發表于 04-26 16:18 ?1002次閱讀

    路高性能服務器主板

    服務器
    jf_10805031
    發布于 :2024年04月26日 14:23:58

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?634次閱讀

    服務器遠程不上服務器怎么辦?服務器無法遠程的原因是什么?

    產生問題的原因,檢查硬盤和服務器系統。通過日志和檢查數據來確認問題出 現的原因以及如何解決。 三、端口問題 1.端口錯誤 找回正確的端口或更換遠程端口 2.端口被掃 更改端口,并在防火墻禁止掃的IP
    發表于 02-27 16:21

    【國產FPGA+OMAPL138開發板體驗】(原創)6.FPGA連接ChatGPT 4

    訪問ChatGPT 4這樣的AI模型是非常復雜的,因為這涉及到大量的數據傳輸、協議實現、并行處理、優化等等。更重要的是,ChatGPT 4這樣的模型通常是運行在強大的服務器集群上。不過
    發表于 02-14 21:58
    宝胜娱乐| 在线赌博| 百家乐官网免费破解外挂| 网络百家乐官网输了很多钱| 百家乐官网证据| 邯郸百家乐园怎么样| 大发888游戏平台客户端下载| 百家乐官网有没有绝| 百家乐官网娱乐网代理佣金 | 威尼斯人娱乐城信誉好吗| 洞口县| 博彩百家乐官网后一预测软件| 百家乐www| 鼎龙娱乐城开户| 百家乐官网知识技巧玩法| 现金百家乐人气最高| 晓游棋牌游戏大厅下载| 百家乐官网象棋赌博| 百家乐开户最快的平台是哪家| 大发888官方 截图| 乐百家乐官网彩娱乐城| 网络百家乐的陷阱| 大发888pt| 百家乐官网平注法攻略| 百家乐赌博信息| 石门县| 真人版百家乐官网试玩| 大发888 真钱娱乐平台| 百家乐官网赌场技巧论坛| 金海岸百家乐的玩法技巧和规则| 百家乐官网会骗人吗| 皇冠网百家乐赢钱| 大发888赌场娱乐网规则| ez百家乐官网技巧| 百家乐太阳城菲律宾| 赌球论坛| 做生意 风水| 六合彩 开奖| 百家乐游戏看路| 合江县| 百家乐桌子轮盘|