衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AMD硬剛英偉達(dá),推出Instinct MI300,單芯片可運(yùn)行800億參數(shù)

DzOH_ele ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 2023-06-14 16:46 ? 次閱讀

美國(guó)時(shí)間本周二,AMD舉行了重磅發(fā)布會(huì),推出了一款全新的人工智能GPU Instinct MI300,并表示這款處理器將于今年晚些時(shí)候開始向部分客戶發(fā)貨。自英偉達(dá)發(fā)布了AI芯片后,便徹底帶動(dòng)了市場(chǎng)的投資熱情,也推動(dòng)英偉達(dá)登上萬(wàn)億美元市值的高峰。此次AMD發(fā)布重磅AI芯片,有望對(duì)英偉達(dá)當(dāng)前的市場(chǎng)地位形成一定沖擊。

AMD推出高性能AI芯片

在這次AMD的新品發(fā)布會(huì)中,核心產(chǎn)品無(wú)疑是用于訓(xùn)練大模型的GPU Instinct MI300。早在今年初,AMD便已經(jīng)宣布了新一代Instinct MI300,是全球首款同時(shí)集成CPU、GPU的數(shù)據(jù)中心APU。

601e5ef4-0a8e-11ee-962d-dac502259ad0.png

如今,這款芯片的名字變成了Instinct MI300A,而純GPU產(chǎn)品則命名為Instinct MI300X。據(jù)AMD的CEO蘇姿豐透露,MI300A是全球首個(gè)為AI和HPC(高性能計(jì)算)打造的APU加速卡,擁有13個(gè)小芯片,總共包含1460億個(gè)晶體管,24個(gè)Zen 4 CPU核心,1個(gè)CDNA 3圖形引擎和128GB HBM3內(nèi)存。

相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發(fā)布會(huì)稍早介紹,新的Zen 4c內(nèi)核比標(biāo)準(zhǔn)的Zen 4內(nèi)核密度更高,比標(biāo)準(zhǔn)Zen 4的內(nèi)核小35%,同時(shí)保持100%的軟件兼容性。

602c2b92-0a8e-11ee-962d-dac502259ad0.png

而GPU MI300X更是本次發(fā)布會(huì)的重點(diǎn),這款芯片是AMD針對(duì)大語(yǔ)言模型優(yōu)化的版本,該產(chǎn)品的晶體管數(shù)量達(dá)到1530億個(gè),內(nèi)存達(dá)到了192GB,內(nèi)存帶寬為5.2TB/s,Infinity Fabric帶寬為896GB/s。對(duì)比英偉達(dá)的H100,MI300X提供的HBM(高帶寬內(nèi)存)密度約為H100的2.4倍,HBM帶寬是1.6倍。

這意味著AMD的這款產(chǎn)品可以運(yùn)行比英偉達(dá)H100更大的模型,在現(xiàn)場(chǎng)AMD演示了MI300X運(yùn)行400億參數(shù)的Falcon模型,而OpenAI的GPT-3模型有1750億個(gè)參數(shù)。蘇姿豐還用Hugging Face基于MI300X的大模型寫了一首關(guān)于活動(dòng)舉辦地舊金山的詩(shī)。

這也是全球首次在單個(gè)GPU上運(yùn)行這么大的模型,據(jù)AMD介紹,單個(gè)MI300X可以運(yùn)行一個(gè)參數(shù)多達(dá)800億的模型。而在未來(lái)隨著AI模型越來(lái)越大,意味著需要更多GPU來(lái)運(yùn)行最新的大模型,而AMD芯片上內(nèi)存的增加,意味著開發(fā)人員不需要那么多GPU,可以為用戶節(jié)省大量成本。

60a97e44-0a8e-11ee-962d-dac502259ad0.png

蘇姿豐表示,MI300X將于今年第三季度向一些客戶提供樣品,并于第四季度量產(chǎn)。同時(shí)AMD還發(fā)布了AMD Instinct Platform,集合了8個(gè)MI300X,可提供總計(jì)1.5TB的HBM3內(nèi)存。對(duì)標(biāo)英偉達(dá)的CUDA,AMD也介紹了自身的芯片軟件ROCm,AMD總裁Victor Peng稱,在構(gòu)建強(qiáng)大的軟件堆棧方面,AMD取得了真正的巨大進(jìn)步,ROCm軟件棧可與模型、庫(kù)、框架和工具的開放生態(tài)系統(tǒng)配合使用。

之所以將重心放在AI芯片,也是因?yàn)锳MD非常看好未來(lái)的AI市場(chǎng)。蘇姿豐認(rèn)為,數(shù)據(jù)中心人工智能加速器的潛在市場(chǎng)總額將從今年的300億美元增長(zhǎng)到2027年的1500億美元以上。

硬剛英偉達(dá),但尚未透露大客戶

從AMD所介紹的產(chǎn)品性能來(lái)看,將成為當(dāng)下AI市場(chǎng)的有力競(jìng)爭(zhēng)者,尤其在ChatGPT等生成式AI的帶動(dòng)下,市場(chǎng)對(duì)高性能GPU需求旺盛。不過(guò)當(dāng)前市場(chǎng)中,英偉達(dá)處于絕對(duì)優(yōu)勢(shì),占據(jù)80%的市場(chǎng)。

而AMD并沒(méi)有公布這款GPU的具體價(jià)格,但是對(duì)比英偉達(dá)H100價(jià)格大多在3萬(wàn)美元以上,如果MI300X價(jià)格能夠更加實(shí)惠,將顯著的對(duì)英偉達(dá)產(chǎn)品造成沖擊,并有助于降低生成式AI的研發(fā)成本。

有意思的是,在如此強(qiáng)勁的性能面前,市場(chǎng)卻似乎并不買單。截至當(dāng)日收盤,AMD股價(jià)反而下降了3.61%,市值來(lái)到2000億元關(guān)口。而英偉達(dá)股價(jià)則拉升了3.9%,總市值達(dá)到1.01萬(wàn)億美元,是AMD的五倍。

此次AMD并未透露哪些公司會(huì)采用MI300X或簡(jiǎn)配版MI300A,而在此前的發(fā)布會(huì)中,AMD都會(huì)披露新產(chǎn)品的大客戶。這可能讓市場(chǎng)認(rèn)為,目前并沒(méi)有大客戶為這款芯片買單。

另一方面,AMD并沒(méi)有透露新款A(yù)I芯片的具體售價(jià),但想要有顯著的成本優(yōu)勢(shì)可能不太現(xiàn)實(shí),因?yàn)楦呙芏鹊腍BM價(jià)格昂貴。即便MI300X的內(nèi)存達(dá)到了192GB,但這也不是顯著優(yōu)勢(shì),因?yàn)橛ミ_(dá)也擁有相同內(nèi)存規(guī)格的產(chǎn)品。

更重要的原因在于,MI300并不具備H100所擁有的Transformer Engine。Transformer Engine能夠用于加速Transformer模型,以在AI的訓(xùn)練和推理中以較低的內(nèi)存利用率提供更好的性能。

有分析師認(rèn)為,如果訓(xùn)練一個(gè)新的模型,需要投入數(shù)千個(gè)GPU,并耗費(fèi)一年的時(shí)間,那么幾乎不會(huì)有人會(huì)浪費(fèi)2-3年或者投入3倍數(shù)量的GPU。而Transformer Engine能夠讓大模型實(shí)現(xiàn)三倍的性能表達(dá)。

盡管市場(chǎng)中認(rèn)為,AMD的MI300芯片應(yīng)該是除了谷歌的TPU之外,能與英偉達(dá)在AI訓(xùn)練端上匹敵的產(chǎn)品。成為當(dāng)前大企業(yè)在訓(xùn)練AI大模型時(shí),除了英偉達(dá)之外的另一個(gè)重要選擇。

但想要在短時(shí)間內(nèi)挑戰(zhàn)英偉達(dá),顯然還是比較困難的。就如AMD總裁VictorPeng說(shuō)的那樣,“盡管這是一個(gè)過(guò)程,但我們?cè)跇?gòu)建強(qiáng)大的軟件堆棧方面取得了很大進(jìn)展,該軟件堆棧與開放的模型、庫(kù)、框架和工具生態(tài)系統(tǒng)兼容。”

無(wú)論如何需要市場(chǎng)中有大客戶切實(shí)的使用AMD新款芯片。

小結(jié)

AMD此次重磅發(fā)布的MI300系列芯片,無(wú)疑為AI市場(chǎng)注入了一劑強(qiáng)心針,不僅預(yù)示著AMD在持續(xù)看好未來(lái)的AI市場(chǎng),也將表明AMD將在這一市場(chǎng)中與英偉達(dá)正面競(jìng)爭(zhēng)。至少對(duì)于相關(guān)企業(yè)及用戶而言,有更多的選擇是一件好事。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • amd
    amd
    +關(guān)注

    關(guān)注

    25

    文章

    5500

    瀏覽量

    134645
  • 人工智能
    +關(guān)注

    關(guān)注

    1796

    文章

    47683

    瀏覽量

    240302
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1906

    瀏覽量

    35217

原文標(biāo)題:AMD硬剛英偉達(dá),推出Instinct MI300,單芯片可運(yùn)行800億參數(shù)

文章出處:【微信號(hào):elecfanscom,微信公眾號(hào):核芯產(chǎn)業(yè)觀察】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AMD最強(qiáng)AI芯片,性能強(qiáng)過(guò)英偉達(dá)H200,但市場(chǎng)仍不買賬,生態(tài)是最大短板?

    。 ? 其中,全新旗艦AI芯片的型號(hào)為AMD Instinct MI325X GPU,雖然仍然是采用CDNA 3架構(gòu),但是相較于AMD
    的頭像 發(fā)表于 10-14 01:32 ?3562次閱讀
    <b class='flag-5'>AMD</b>最強(qiáng)AI<b class='flag-5'>芯片</b>,性能強(qiáng)過(guò)<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>H200,但市場(chǎng)仍不買賬,生態(tài)是最大短板?

    AMD將DeepSeek-V3模型集成至Instinct MI300X GPU

    AMD近日宣布了一項(xiàng)重要進(jìn)展,成功將全新的DeepSeek-V3模型集成到其Instinct MI300X GPU上。這一舉措標(biāo)志著AMD在AI推理優(yōu)化方面邁出了重要一步。 據(jù)了解
    的頭像 發(fā)表于 02-06 09:41 ?72次閱讀

    消息稱AMD Instinct MI400 AI加速器將配備8個(gè)計(jì)算芯片

    近日,據(jù)外媒 videocardz 報(bào)道,參考 AMD 最新推出AMD - GFX 補(bǔ)丁程序,其中暗示 AMD 旗下的 Instinct
    的頭像 發(fā)表于 02-05 15:07 ?154次閱讀

    AMD集成DeepSeek-V3模型至Instinct MI300X GPU

    AMD近日宣布了一項(xiàng)重要的技術(shù)進(jìn)展,即將全新的DeepSeek-V3模型成功集成到其旗艦級(jí)GPU產(chǎn)品——Instinct MI300X上。這一舉措標(biāo)志著AMD在人工智能推理領(lǐng)域邁出了堅(jiān)
    的頭像 發(fā)表于 02-05 13:58 ?94次閱讀

    AMD MI300X AI芯片面臨挑戰(zhàn)

    近日,據(jù)芯片顧問(wèn)機(jī)構(gòu)Semianalysis經(jīng)過(guò)5個(gè)月的深入調(diào)查后指出,AMD最新推出的“MI300X”AI芯片在軟件缺陷和性能表現(xiàn)上未能達(dá)
    的頭像 發(fā)表于 12-25 10:57 ?396次閱讀

    IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器

    合作服務(wù)預(yù)計(jì)將于2025年上半年正式推出AMD Instinct MI300X加速器作為AMD在高性能計(jì)算領(lǐng)域的旗艦產(chǎn)品,將為IBM云上的
    的頭像 發(fā)表于 11-19 11:03 ?513次閱讀

    AMD發(fā)布新版Instinct MI325X

    今日,芯片行業(yè)的老牌巨頭AMD在AI領(lǐng)域交出了一份令人矚目的答卷。   美國(guó)時(shí)間10月10日,AMD在舊金山成功舉辦了Advancing AI發(fā)布會(huì)。會(huì)上,AMD隆重
    的頭像 發(fā)表于 10-12 16:54 ?820次閱讀

    三星首度引入AMD MI300X,緩解AI GPU短缺

    三星電子近日斥資約270韓元(約合1.42元人民幣),購(gòu)買了AMD Instinct MI300X加速器。這一舉措標(biāo)志著三星電子首次引入
    的頭像 發(fā)表于 10-10 17:15 ?602次閱讀

    AMD MI350挑戰(zhàn)英偉達(dá)Blackwell,AI投資持續(xù)強(qiáng)勁

    AMD首席執(zhí)行官蘇姿豐(Lisa Su)近日宣布,公司即將推出MI350芯片將直接與英偉達(dá)的B
    的頭像 發(fā)表于 08-05 11:27 ?625次閱讀

    AMD發(fā)布全新AI芯片Instinct MI325X

    在近日舉行的COMPUTEX臺(tái)北國(guó)際電腦展上,AMD董事長(zhǎng)兼CEO蘇姿豐發(fā)表了精彩演講,并正式發(fā)布了一款備受矚目的AI芯片——Instinct MI325X。這款
    的頭像 發(fā)表于 06-04 14:49 ?1056次閱讀

    AMD發(fā)布AI芯片MI325X 預(yù)計(jì)2024年第四季度上市

    在COMPUTEX臺(tái)北國(guó)際電腦展上,AMD公司的董事會(huì)主席兼首席執(zhí)行官蘇姿豐女士受邀發(fā)表了重要演講,隆重推出了其最新研發(fā)的AI芯片——Instinct
    的頭像 發(fā)表于 06-03 15:41 ?1033次閱讀

    英偉達(dá)B100 GPU架構(gòu)披露,B200或配備288GB顯存

    XpeaGPU透露,B100 GPU將配備兩枚基于此技術(shù)的芯片,與此同時(shí),還將連通多達(dá)8個(gè)HBM3e顯存堆棧,總?cè)萘扛哌_(dá)192GB。AMD同樣已有提供同量級(jí)的產(chǎn)品,并且在Instinct MI
    的頭像 發(fā)表于 03-18 14:16 ?1428次閱讀

    人工智能市場(chǎng)風(fēng)向轉(zhuǎn)變,AMD Instinct MI300X GPU更受歡迎

    近一半的受訪者表示對(duì)AMDInstinct MI300X GPU持樂(lè)觀態(tài)度。與英偉達(dá)的H100系列相比,
    的頭像 發(fā)表于 03-11 15:28 ?1116次閱讀

    AMD Instinct MI300新版將采用HBM3e內(nèi)存,競(jìng)爭(zhēng)英偉達(dá)B100

    AMD于去年宣布旗下兩款Instinct MI300加速器,包括基于GPU的MI300X以及基于APU架構(gòu)的MI300A, both配備19
    的頭像 發(fā)表于 02-23 14:36 ?1110次閱讀

    英偉達(dá)繁榮背后的挑戰(zhàn) 仍面臨著各種內(nèi)憂外患

    為搶占AI商機(jī),英特爾和AMD都緊跟著NVIDIA腳步,在NVIDIA率先推出采用臺(tái)積電4nm的H100后,AMD于去年推出首批應(yīng)用于AI和HPC的“
    的頭像 發(fā)表于 02-21 14:16 ?912次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>繁榮背后的挑戰(zhàn) 仍面臨著各種內(nèi)憂外患
    百家乐官网电脑上怎么赌| 澳门百家乐官网海星王| 威尼斯人娱乐城首存| 百家乐现场新全讯网| 百家乐官网怎么稳赢| 百家乐官网网站加盟| 998棋牌游戏下载| 怎样玩百家乐的玩法技巧和规则| 百家乐必胜绝技| 百家乐官网网上真钱娱乐场| 百家乐官网是骗人的么| 网上尊龙国际娱乐| 大发888娱乐场网址| 百家乐三路法| 百家乐桩闲落注点| 网上赌百家乐官网的玩法技巧和规则 | 百家乐波音平台导航网| 蓝盾百家乐官网赌场娱乐网规则| 网络百家乐官网怎么作弊| 兴仁县| 边城棋牌中心| 威尼斯人娱乐城网络百家乐| 怎样玩百家乐才能| 马牌百家乐娱乐城| 布加迪百家乐官网的玩法技巧和规则| 澳门百家乐官网现场真人版| 百家乐官网补牌规制| 三易博娱乐| 大发888娱乐城破解软件| 威尼斯人娱乐开户| pc百家乐模拟游戏| 澳门百家乐备用网址| 阴宅24层手机罗盘| 互联网百家乐官网的玩法技巧和规则| 百家乐官网猜大小规则| 百家乐官网高人破解| 奇台县| 大发888城| 全讯网a3322| 网上百家乐解密| 中华百家乐的玩法技巧和规则|