衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型非GPU專屬 AMD EPYC秀出CPU AI實(shí)力

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-07 15:51 ? 次閱讀

12月6日,amd在加利福尼亞州圣何塞舉行的“advancing ai”活動中發(fā)布了一系列創(chuàng)新產(chǎn)品,包括mi300、Ryzen ai pc處理器。作為amd未來發(fā)展的關(guān)鍵,amd試圖在所有產(chǎn)品線上實(shí)現(xiàn)ai功能,從大規(guī)模數(shù)據(jù)中心訓(xùn)練和推理解決方案到面向消費(fèi)者的電腦和游戲體驗(yàn)。

amd在高性能計(jì)算(hpc)和數(shù)據(jù)中心領(lǐng)域顯示出持續(xù)的領(lǐng)導(dǎo)能力。amd epyc處理器和amd instinct加速器仍然是世界上許多最創(chuàng)新、最節(jié)能、最快的超級計(jì)算機(jī)的基本解決方案。

根據(jù)世界超級計(jì)算機(jī)排名第62屆top500,全體500個超級電腦套裝的amd平臺為140個,比前年增加了39%。此外,amd根據(jù)green500的最新名單,為世界上能源效率最高的10臺超級計(jì)算機(jī)中的8臺提供了電力。

目前,橡樹國家實(shí)驗(yàn)室使用amd epyc處理器和安裝加速器驅(qū)動最先進(jìn)的超級計(jì)算機(jī),勞倫斯利弗莫爾國家實(shí)驗(yàn)室也開始安裝超大型超級計(jì)算機(jī)el capitan。

今天amd發(fā)布了第一個ai/hpc數(shù)據(jù)中心apu——mi300a,并將zen3 cpu和cdna3 gpu整合到一個芯片中,使用了hbm3內(nèi)存和第四代infinity fabric高速總線的相互連接。這樣可以簡化結(jié)構(gòu),簡化程序設(shè)計(jì)。

據(jù)amd介紹,apu具有充分利用集成架構(gòu)優(yōu)勢的性能潛力。統(tǒng)一內(nèi)存,統(tǒng)一內(nèi)存,共享的infinity母線技術(shù),動態(tài)功耗分布及程序設(shè)計(jì)上的便利性等。

由于這些優(yōu)點(diǎn),mi300a在openfoam上的工作效率是h100的4倍。peakhpc每瓦的性能比gh200高出2倍。

在hpc等性能上也與h100相似或領(lǐng)先。隨著mi300a的增加,El Capitan將成為世界上第一臺具備2 exaplop(100億次)分配密度的超級電腦,同時(shí)也將成為世界上最快的超級計(jì)算機(jī)。

此外,EPYC本身也能夠具備強(qiáng)大的AI能力。在今年6月份舉辦的“數(shù)據(jù)中心與AI技術(shù)首映”上,AMD針對云原生負(fù)載進(jìn)行了優(yōu)化,帶來了以吞吐量為導(dǎo)向,擁有最高終端密度和效率的AMD EPYC 9704處理器“Bergamo”,以及面向技術(shù)計(jì)算領(lǐng)域的Genoa-X。其中,Genoa-X的亮點(diǎn)包括領(lǐng)先的5nm工藝節(jié)點(diǎn)技術(shù)、高達(dá)96個高性能Zen4核心、高達(dá)1.1GB的L3 Cache,兼容SP5插槽等,可以在Ansys CFX中每天完成更多的設(shè)計(jì)任務(wù),從而大幅加速產(chǎn)品開發(fā)。

在今日活動的演示現(xiàn)場,記者看到采用 AMD EPYC 9654處理器運(yùn)行Llama 2大語言模型的展示,在同競品Xeon Platinum 8480的對比中,處理運(yùn)行速度提升36%。這意味著,在某些場景下,依靠CPU提供的AI算力也能夠進(jìn)行大模型處理,而非僅依靠GPU,這對于具有較少GPU資源的企業(yè)而言非常具有吸引力,也帶來了成本上的節(jié)省。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • amd
    amd
    +關(guān)注

    關(guān)注

    25

    文章

    5500

    瀏覽量

    134645
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    807

    瀏覽量

    38090
  • 超級計(jì)算機(jī)
    +關(guān)注

    關(guān)注

    2

    文章

    464

    瀏覽量

    42030
收藏 人收藏

    評論

    相關(guān)推薦

    AMD將DeepSeek-V3模型集成至Instinct MI300X GPU

    AMD近日宣布了一項(xiàng)重要進(jìn)展,成功將全新的DeepSeek-V3模型集成到其Instinct MI300X GPU上。這一舉措標(biāo)志著AMDAI
    的頭像 發(fā)表于 02-06 09:41 ?70次閱讀

    AMD集成DeepSeek-V3模型至Instinct MI300X GPU

    。 據(jù)悉,DeepSeek-V3模型AMD針對AI推理應(yīng)用進(jìn)行深度優(yōu)化的成果。通過集成到Instinct MI300X GPU,AMD旨在
    的頭像 發(fā)表于 02-05 13:58 ?94次閱讀

    GPU是如何訓(xùn)練AI模型

    AI模型的訓(xùn)練過程中,大量的計(jì)算工作集中在矩陣乘法、向量加法和激活函數(shù)等運(yùn)算上。這些運(yùn)算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU
    的頭像 發(fā)表于 12-19 17:54 ?242次閱讀

    AMD發(fā)布10億參數(shù)開源AI模型OLMo

    AMD公司近日宣布了一項(xiàng)重大進(jìn)展,推出了首個完全開放的10億參數(shù)語言模型系列——AMD OLMo。這一舉措為開發(fā)者和研究人員提供了強(qiáng)大的AI研究工具,有助于推動
    的頭像 發(fā)表于 11-12 18:08 ?507次閱讀

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?431次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    1章 從TOP500和MLPerf看算力芯片格局 1.1科學(xué)算力最前沿TOP500 1.2 AI算力新標(biāo)準(zhǔn) 第2章 高性能 CPU 流水線概覽 2.1什么是指令 2.2 流水線與MIPS 2.3
    發(fā)表于 10-15 22:08

    三星首度引入AMD MI300X,緩解AI GPU短缺

    三星電子近日斥資約270億韓元(約合1.42億元人民幣),購買了AMD Instinct MI300X加速器。這一舉措標(biāo)志著三星電子首次引入英偉達(dá)品牌的AI GPU,以應(yīng)對企業(yè)內(nèi)部算
    的頭像 發(fā)表于 10-10 17:15 ?602次閱讀

    AMD EPYC 4004系列處理器成為中小型企業(yè)的信賴選擇

    AMD宣布推出AMD EPYC(霄龍) 4004系列處理器,該系列處理器以全新且經(jīng)過成本優(yōu)化的產(chǎn)品補(bǔ)充了現(xiàn)有AMD EPYC服務(wù)器
    的頭像 發(fā)表于 09-20 15:30 ?380次閱讀

    AMD全新處理器擴(kuò)大數(shù)據(jù)中心CPU的領(lǐng)先地位

    在Computex 2024 開幕主題演講上,AMD 詳細(xì)介紹了全新的 CPU、NPU 和 GPU 領(lǐng)先架構(gòu),為從數(shù)據(jù)中心到個人電腦的端到端 AI 基礎(chǔ)架構(gòu)帶來強(qiáng)大算力。
    的頭像 發(fā)表于 09-19 11:01 ?594次閱讀

    AMD推出全新AMD銳龍和EPYC處理器,擴(kuò)大數(shù)據(jù)中心和PC領(lǐng)域領(lǐng)先地位

    ——下一代?AMD EPYC?處理器將擴(kuò)大數(shù)據(jù)中心?CPU?的領(lǐng)先地位 ——全新?AMD?銳龍?AI 300?系列筆記本電腦和?
    的頭像 發(fā)表于 06-04 19:21 ?1046次閱讀
    <b class='flag-5'>AMD</b>推出全新<b class='flag-5'>AMD</b>銳龍和<b class='flag-5'>EPYC</b>處理器,擴(kuò)大數(shù)據(jù)中心和PC領(lǐng)域領(lǐng)先地位

    為什么跑AI往往用GPU而不是CPU

    GPU的能力,并且支持的GPU數(shù)量越多,就代表其AI性能越強(qiáng)大。那么問題來了,為什么是GPU而不是CPU?
    的頭像 發(fā)表于 04-24 08:27 ?2097次閱讀
    為什么跑<b class='flag-5'>AI</b>往往用<b class='flag-5'>GPU</b>而不是<b class='flag-5'>CPU</b>?

    AI訓(xùn)練,為什么需要GPU?

    隨著由ChatGPT引發(fā)的人工智能熱潮,GPU成為了AI模型訓(xùn)練平臺的基石,甚至是決定性的算力底座。為什么GPU能力壓CPU,成為炙手可熱
    的頭像 發(fā)表于 04-24 08:05 ?1075次閱讀
    <b class='flag-5'>AI</b>訓(xùn)練,為什么需要<b class='flag-5'>GPU</b>?

    AMD EPYC 8004系列處理器優(yōu)勢介紹

    AMD EPYC 8004系列處理器就是專為單路平臺設(shè)計(jì)的高能效處理器,它體積小巧,非常適合空間和功率有限的部署環(huán)境。
    發(fā)表于 04-15 11:30 ?412次閱讀
    <b class='flag-5'>AMD</b> <b class='flag-5'>EPYC</b> 8004系列處理器優(yōu)勢介紹

    國產(chǎn)GPUAI模型領(lǐng)域的應(yīng)用案例一覽

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近一年多時(shí)間,隨著大模型的發(fā)展,GPUAI領(lǐng)域的重要性再次凸顯。雖然相比英偉達(dá)等國際大廠,國產(chǎn)GPU起步較晚、聲勢較小。不過近幾年,國內(nèi)不少
    的頭像 發(fā)表于 04-01 09:28 ?4131次閱讀
    國產(chǎn)<b class='flag-5'>GPU</b>在<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>領(lǐng)域的應(yīng)用案例一覽

    AMD EPYC處理器:AI推理能力究竟有多強(qiáng)?

    如今,AMD EPYC處理器已經(jīng)成為最常被選擇用于AI推理的服務(wù)器平臺,尤其是第四代Genoa EPYC 9004系列,執(zhí)行AI推理的能力又
    發(fā)表于 03-15 09:47 ?570次閱讀
    南京百家乐赌博现场被抓| 大发888娱乐城积分| 澳门凯旋门娱乐城| 时时博百家乐官网娱乐城| 百家乐信息| 白凤凰博彩通| 诺贝尔百家乐官网的玩法技巧和规则 | 博彩百家乐官网软件| 百家乐斗地主在哪玩| 澳门葡京赌场官网| 24 山杨公斗首择日吉凶| 大发888亚洲游戏下载| 百家乐官网园百利宫娱乐城信誉好...| 百家乐打线| 凯旋门百家乐官网技巧| 娱乐城百家乐送白菜| 六盘水市| 现金百家乐网上娱乐| 赌博堕天录漫画| 百家乐高手qq| 太子娛樂城网址| 百家乐官网定位胆技巧| 大发888游戏平台3403| 百家乐官网真人游戏娱乐场| 罗浮宫百家乐的玩法技巧和规则| 模拟百家乐官网游戏软件| 百家乐赌博策略论坛| 百家乐官网投注玩多少钱| 百家乐庄6点| 博彩乐百家乐官网平台| 百家乐有诈吗| 百家乐官网天下第一和| 百家乐看图赢钱| 百家乐官网娱乐下载| 太阳百家乐网址| 大发888娱乐场 34| 太阳百家乐官网破解| 太子娱乐城官网| 百家乐庄6点| 百家乐官网如何看| 棋牌室管理制度|