美國(guó)時(shí)間本周二,AMD舉行了重磅發(fā)布會(huì),推出了一款全新的人工智能GPU Instinct MI300,并表示這款處理器將于今年晚些時(shí)候開始向部分客戶發(fā)貨。自英偉達(dá)發(fā)布了AI芯片后,便徹底帶動(dòng)了市場(chǎng)的投資熱情,也推動(dòng)英偉達(dá)登上萬(wàn)億美元市值的高峰。此次AMD發(fā)布重磅AI芯片,有望對(duì)英偉達(dá)當(dāng)前的市場(chǎng)地位形成一定沖擊。
AMD推出高性能AI芯片
在這次AMD的新品發(fā)布會(huì)中,核心產(chǎn)品無(wú)疑是用于訓(xùn)練大模型的GPU Instinct MI300。早在今年初,AMD便已經(jīng)宣布了新一代Instinct MI300,是全球首款同時(shí)集成CPU、GPU的數(shù)據(jù)中心APU。
如今,這款芯片的名字變成了Instinct MI300A,而純GPU產(chǎn)品則命名為Instinct MI300X。據(jù)AMD的CEO蘇姿豐透露,MI300A是全球首個(gè)為AI和HPC(高性能計(jì)算)打造的APU加速卡,擁有13個(gè)小芯片,總共包含1460億個(gè)晶體管,24個(gè)Zen 4 CPU核心,1個(gè)CDNA 3圖形引擎和128GB HBM3內(nèi)存。
相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發(fā)布會(huì)稍早介紹,新的Zen 4c內(nèi)核比標(biāo)準(zhǔn)的Zen 4內(nèi)核密度更高,比標(biāo)準(zhǔn)Zen 4的內(nèi)核小35%,同時(shí)保持100%的軟件兼容性。
而GPU MI300X更是本次發(fā)布會(huì)的重點(diǎn),這款芯片是AMD針對(duì)大語(yǔ)言模型優(yōu)化的版本,該產(chǎn)品的晶體管數(shù)量達(dá)到1530億個(gè),內(nèi)存達(dá)到了192GB,內(nèi)存帶寬為5.2TB/s,Infinity Fabric帶寬為896GB/s。對(duì)比英偉達(dá)的H100,MI300X提供的HBM(高帶寬內(nèi)存)密度約為H100的2.4倍,HBM帶寬是1.6倍。
這意味著AMD的這款產(chǎn)品可以運(yùn)行比英偉達(dá)H100更大的模型,在現(xiàn)場(chǎng)AMD演示了MI300X運(yùn)行400億參數(shù)的Falcon模型,而OpenAI的GPT-3模型有1750億個(gè)參數(shù)。蘇姿豐還用Hugging Face基于MI300X的大模型寫了一首關(guān)于活動(dòng)舉辦地舊金山的詩(shī)。
這也是全球首次在單個(gè)GPU上運(yùn)行這么大的模型,據(jù)AMD介紹,單個(gè)MI300X可以運(yùn)行一個(gè)參數(shù)多達(dá)800億的模型。而在未來(lái)隨著AI模型越來(lái)越大,意味著需要更多GPU來(lái)運(yùn)行最新的大模型,而AMD芯片上內(nèi)存的增加,意味著開發(fā)人員不需要那么多GPU,可以為用戶節(jié)省大量成本。
蘇姿豐表示,MI300X將于今年第三季度向一些客戶提供樣品,并于第四季度量產(chǎn)。同時(shí)AMD還發(fā)布了AMD Instinct Platform,集合了8個(gè)MI300X,可提供總計(jì)1.5TB的HBM3內(nèi)存。對(duì)標(biāo)英偉達(dá)的CUDA,AMD也介紹了自身的芯片軟件ROCm,AMD總裁Victor Peng稱,在構(gòu)建強(qiáng)大的軟件堆棧方面,AMD取得了真正的巨大進(jìn)步,ROCm軟件棧可與模型、庫(kù)、框架和工具的開放生態(tài)系統(tǒng)配合使用。
之所以將重心放在AI芯片,也是因?yàn)锳MD非常看好未來(lái)的AI市場(chǎng)。蘇姿豐認(rèn)為,數(shù)據(jù)中心人工智能加速器的潛在市場(chǎng)總額將從今年的300億美元增長(zhǎng)到2027年的1500億美元以上。
硬剛英偉達(dá),但尚未透露大客戶
從AMD所介紹的產(chǎn)品性能來(lái)看,將成為當(dāng)下AI市場(chǎng)的有力競(jìng)爭(zhēng)者,尤其在ChatGPT等生成式AI的帶動(dòng)下,市場(chǎng)對(duì)高性能GPU需求旺盛。不過(guò)當(dāng)前市場(chǎng)中,英偉達(dá)處于絕對(duì)優(yōu)勢(shì),占據(jù)80%的市場(chǎng)。
而AMD并沒(méi)有公布這款GPU的具體價(jià)格,但是對(duì)比英偉達(dá)H100價(jià)格大多在3萬(wàn)美元以上,如果MI300X價(jià)格能夠更加實(shí)惠,將顯著的對(duì)英偉達(dá)產(chǎn)品造成沖擊,并有助于降低生成式AI的研發(fā)成本。
有意思的是,在如此強(qiáng)勁的性能面前,市場(chǎng)卻似乎并不買單。截至當(dāng)日收盤,AMD股價(jià)反而下降了3.61%,市值來(lái)到2000億元關(guān)口。而英偉達(dá)股價(jià)則拉升了3.9%,總市值達(dá)到1.01萬(wàn)億美元,是AMD的五倍。
此次AMD并未透露哪些公司會(huì)采用MI300X或簡(jiǎn)配版MI300A,而在此前的發(fā)布會(huì)中,AMD都會(huì)披露新產(chǎn)品的大客戶。這可能讓市場(chǎng)認(rèn)為,目前并沒(méi)有大客戶為這款芯片買單。
另一方面,AMD并沒(méi)有透露新款A(yù)I芯片的具體售價(jià),但想要有顯著的成本優(yōu)勢(shì)可能不太現(xiàn)實(shí),因?yàn)楦呙芏鹊腍BM價(jià)格昂貴。即便MI300X的內(nèi)存達(dá)到了192GB,但這也不是顯著優(yōu)勢(shì),因?yàn)橛ミ_(dá)也擁有相同內(nèi)存規(guī)格的產(chǎn)品。
更重要的原因在于,MI300并不具備H100所擁有的Transformer Engine。Transformer Engine能夠用于加速Transformer模型,以在AI的訓(xùn)練和推理中以較低的內(nèi)存利用率提供更好的性能。
有分析師認(rèn)為,如果訓(xùn)練一個(gè)新的模型,需要投入數(shù)千個(gè)GPU,并耗費(fèi)一年的時(shí)間,那么幾乎不會(huì)有人會(huì)浪費(fèi)2-3年或者投入3倍數(shù)量的GPU。而Transformer Engine能夠讓大模型實(shí)現(xiàn)三倍的性能表達(dá)。
盡管市場(chǎng)中認(rèn)為,AMD的MI300芯片應(yīng)該是除了谷歌的TPU之外,能與英偉達(dá)在AI訓(xùn)練端上匹敵的產(chǎn)品。成為當(dāng)前大企業(yè)在訓(xùn)練AI大模型時(shí),除了英偉達(dá)之外的另一個(gè)重要選擇。
但想要在短時(shí)間內(nèi)挑戰(zhàn)英偉達(dá),顯然還是比較困難的。就如AMD總裁VictorPeng說(shuō)的那樣,“盡管這是一個(gè)過(guò)程,但我們?cè)跇?gòu)建強(qiáng)大的軟件堆棧方面取得了很大進(jìn)展,該軟件堆棧與開放的模型、庫(kù)、框架和工具生態(tài)系統(tǒng)兼容。”
無(wú)論如何需要市場(chǎng)中有大客戶切實(shí)的使用AMD新款芯片。
小結(jié)
AMD此次重磅發(fā)布的MI300系列芯片,無(wú)疑為AI市場(chǎng)注入了一劑強(qiáng)心針,不僅預(yù)示著AMD在持續(xù)看好未來(lái)的AI市場(chǎng),也將表明AMD將在這一市場(chǎng)中與英偉達(dá)正面競(jìng)爭(zhēng)。至少對(duì)于相關(guān)企業(yè)及用戶而言,有更多的選擇是一件好事。
-
amd
+關(guān)注
關(guān)注
25文章
5500瀏覽量
134645 -
人工智能
+關(guān)注
關(guān)注
1796文章
47683瀏覽量
240302 -
AI芯片
+關(guān)注
關(guān)注
17文章
1906瀏覽量
35217
原文標(biāo)題:AMD硬剛英偉達(dá),推出Instinct MI300,單芯片可運(yùn)行800億參數(shù)
文章出處:【微信號(hào):elecfanscom,微信公眾號(hào):核芯產(chǎn)業(yè)觀察】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
AMD最強(qiáng)AI芯片,性能強(qiáng)過(guò)英偉達(dá)H200,但市場(chǎng)仍不買賬,生態(tài)是最大短板?
![<b class='flag-5'>AMD</b>最強(qiáng)AI<b class='flag-5'>芯片</b>,性能強(qiáng)過(guò)<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>H200,但市場(chǎng)仍不買賬,生態(tài)是最大短板?](https://file1.elecfans.com/web2/M00/09/5B/wKgZomcKNcWAf9moAAWWTrssS_s892.png)
AMD將DeepSeek-V3模型集成至Instinct MI300X GPU
消息稱AMD Instinct MI400 AI加速器將配備8個(gè)計(jì)算芯片
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰(zhàn)
IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器
AMD發(fā)布新版Instinct MI325X
三星首度引入AMD MI300X,緩解AI GPU短缺
AMD MI350挑戰(zhàn)英偉達(dá)Blackwell,AI投資持續(xù)強(qiáng)勁
AMD發(fā)布全新AI芯片Instinct MI325X
AMD發(fā)布AI芯片MI325X 預(yù)計(jì)2024年第四季度上市
英偉達(dá)B100 GPU架構(gòu)披露,B200或配備288GB顯存
人工智能市場(chǎng)風(fēng)向轉(zhuǎn)變,AMD Instinct MI300X GPU更受歡迎
AMD Instinct MI300新版將采用HBM3e內(nèi)存,競(jìng)爭(zhēng)英偉達(dá)B100
英偉達(dá)繁榮背后的挑戰(zhàn) 仍面臨著各種內(nèi)憂外患
![<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>繁榮背后的挑戰(zhàn) 仍面臨著各種內(nèi)憂外患](https://file1.elecfans.com/web2/M00/C1/5D/wKgaomXVlcCAVPE4AAAPCeQ-rMI605.jpg)
評(píng)論