據悉,NVIDIA H100 GPU的交貨期已由原來的8至11個月大幅度壓縮為如今的3至4個月,使部分屯貨公司尋求出售剩余的H100 80GB處理器。如今在諸如亞馬遜云服務、谷歌云及微軟Azure等大型云服務供應商處租賃芯片更為便捷。
根據The Information報導,由于芯片供應狀況改善、交貨期的驟然縮短,一些公司開始拋售他們所持有的GPU或削減訂單。然而,盡管如此,AI芯片需求仍大于供應,特別是OpenAI之類的大型語言模型訓練機構。
一些云服務提供商,如亞馬遜AWS,提供按需租用H100 GPU的服務,緩解了消費者的購買壓力。盡管如此,由于大規模的語言模型訓練以數以萬計的GPU進行,瓶頸仍在,這些機構有時需要耐心等待數月以獲取所需處理能力。因此,NVIDIA H100等處理器的價格依舊居高不下,相關公司繼續賺取豐厚利潤。
值得關注的是,隨著供貨緊張的緩解,買方行為亦有所改變。如今企業更多地考慮價格和資產購置/租賃的合理性,偏好較小規模的GPU集群并關注商業的財務效益。
隨著替代產品如AMD和AWS處理器的性能提升和軟件服務的完善,加之對AI處理器投資更加審慎,預示著未來AI市場可能會趨于平衡。
-
NVIDIA
+關注
關注
14文章
5076瀏覽量
103728 -
語言模型
+關注
關注
0文章
538瀏覽量
10342 -
AI芯片
+關注
關注
17文章
1906瀏覽量
35217
發布評論請先 登錄
相關推薦
借助NVIDIA GPU提升魯班系統CAE軟件計算效率
《CST Studio Suite 2024 GPU加速計算指南》
英偉達H100芯片市場降溫
創業公司轉向RTX 4090因NVIDIA中國特供芯片價格高昂
NVIDIA全面轉向開源GPU內核模塊
![<b class='flag-5'>NVIDIA</b>全面<b class='flag-5'>轉向</b>開源<b class='flag-5'>GPU</b>內核模塊](https://file1.elecfans.com/web2/M00/FE/56/wKgZomahscOATwiOAAAJIjh4jLs592.png)
馬斯克自曝訓練Grok 3用了10萬塊NVIDIA H100
首批1024塊H100 GPU,正崴集團將建中國臺灣最大AI計算中心
英偉達H100 GPU交貨等待時間大幅縮短
英特爾發布人工智能芯片新版,對標Nvidia
特斯拉和xAI籌集H100芯片,以推動L5級自動駕駛和“終極真相人工”的實現?
H100 GPU供應改善,AI市場需求依舊強勁
英偉達繁榮背后的挑戰 仍面臨著各種內憂外患
![英偉達繁榮背后的挑戰 仍面臨著各種內憂外患](https://file1.elecfans.com/web2/M00/C1/5D/wKgaomXVlcCAVPE4AAAPCeQ-rMI605.jpg)
評論