衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

存內計算之路——道阻且長,行則將至

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2022-05-24 00:02 ? 次閱讀

電子發燒友網報道(文/李彎彎)如今隨著技術發展,計算任務越來越復雜,而在馮諾依曼架構中,數據需要在存儲、內存、緩存、計算單元中不斷搬運,造成大部分時間、帶寬、緩存、功耗都消耗在數據搬運上,而不是計算上,因此存儲墻成了一個越來越嚴重的問題。

存內計算,故名思義就是把計算單元嵌入到內存當中,理想中是可以完美解決存儲墻的問題,近幾年,三星、SK海力士、臺積電、英特爾、美光、阿里等半導體領域巨頭都在積極研發,許多新興企業也陸續加入進來,并取得了不錯進展。

面對打得火熱的存內計算,也有人認為,存內計算可能行不通,有幾個方面的原因:一是AI算法模型的容量比較大,而這個在存儲器里面做計算,成本會非常高;二是受限于存儲芯片的工藝,比如說密度要做到很高,良品率要比較高,工藝就比較難以做到。

那么存內計算到底可不可行?存內計算未來的市場機會點在哪里?蘋芯科技CEO楊越在接受電子發燒友采訪時,針對在存儲器內做計算成本不會太高,存儲芯片工藝能不能行,存內計算的主要的應用場景方向,做了詳細的分享和解答。

存內計算到底可不可行


針對“AI算法模型的容量比較大,而這個在存儲器里面做計算,成本會非常高”的疑問,楊越解釋道,有人認為在存儲器里面做計算,成本會高,是因為他們認為要容下非常多網絡參數,就需要把存儲器做得非常大,存儲器做大就意味著成本高。

針對這個問題,楊越表示目前已經有很多方法可以解決。

第一,在算法模型上進行解決,即將網絡模型輕量化,比如知識蒸餾,簡單來說就是減少算法模型中的參數的存儲需求,目前已經有很多非常成熟的方法,比如CNN壓縮,就是屬于這一類。

蘋芯科技以S200為基礎搭建的功能演示平臺,在這個演示系統里,就采用了其中一種基于神經網絡架構搜索NAS的方法來得到輕量化的模型,而且能完成非常高的識別率,可以達到99%的關鍵字識別功能。S200是蘋芯首款可商用的存內計算芯片,以S200為基礎搭建功能演示平臺,目的是演示在28nm工藝節點上的存內計算可以跑通端對端的神經網絡。

第二,從可擴展的架構設計上著手。楊越表示我們可以試圖打破將整個算法模型必須同時全部加載到內存中之后,才可以開始計算的固化假設。相應地,一個好的存算架構是可以支持以計算負載為主或以存儲負載為主的不同任務,從而形成一個基于存內計算的向上適配能力強的算力平臺。

第三,可以通過使用新型存儲器解決這個問題,包括磁性存儲器MRAM和憶阻器RRAM,相比于SRAM來說,MRAM和RRAM都有更高的存儲密度,所以從存儲單元介質本身就可以做到更大,這樣可以達到存儲更多計算參數的目的。

可以看到,從這三個方面著手,都可以達到解決AI算法模型太大,存儲器要放下這么多數據,需要把存儲器做得很大,從而帶來成本高的問題。

針對存儲芯片的工藝可能帶來限制的問題,楊越談到,蘋芯科技主要是基于SRAM的存內計算,目前SRAM的工藝已經非常成熟,就存儲器器件本身來說,市面上已經有7nm、5nm的產品,成熟工藝的良率很有保證。

“另外,對于新型存儲器MRAM和RRAM,頭部代工廠也已經有22nm甚至更高制程的量產線。”楊越說,所以在他看來,存內計算技術可以跟隨新型存儲器器件本身的技術逐步共同走向成熟。

另外需要提到的一點是,新型存儲器MRAM和RRAM雖然可以解決容量不大這個問題,但是作為一個新的產品類型,還存在一些挑戰,比如在可靠性,耐用性上存在一些挑戰。不過楊越預計在近期未來新型存儲就會達到商業成熟化的程度。

蘋芯科技雖然成立時間不長,但是團隊在創業前期就已經有很長時間的積累,存內計算是一項技術壁壘非常高的工程,而蘋芯科技在包括從底層內存器件的物理特性的理解,到上層芯片架構的設計,再到最后產品落地成本的控制上都有足夠的積累,在各個技術棧都有自己的IP,蘋芯科技也是第一個擁有工業級28nm SRAM存內計算加速單元DEMO的團隊,并首次利用RRAM存內計算完成基于LeNet的CIFAR10的識別任務。

蘋芯科技下一代芯片S300已從代工廠回片,據楊越介紹,目前工程團隊,正在進行相應的測試和展示工作,相較于S200,S300具有更強大的計算能力,可以兼容更多網絡模型,從而支持更豐富的邊緣端應用場景。

存內計算的機會點在哪里


我們知道,存內計算有多種不同的技術路線,每個技術路線各有特點,比如Flash的優點是密度比較高,DRAM成本會比較低,磁性存儲器MRAM、憶阻器RRAM除了存儲密度比較高之外,功耗也比較低,楊越說:“這兩類新型存儲器MRAM和RRAM代表著存內計算的未來。”不過因為是新技術,就如上文所言,在工藝成熟度和商業化上還需要一些耐心。

蘋芯科技采用的是SRAM+MRAM和RRAM混合技術路線。楊越解釋說:“之所以選擇這樣的技術路線,背后的原因是,SRAM作為讀寫速度最快的內存介質,具備很多優勢,比如,它可以向更先進的制程節點兼容,具備高能效比的計算優勢,同時它又不存在其他非易失性存儲所具備的耐久性問題,更重要的是,基于SRAM的設計方案,可以支持純數字化設計,從而能夠解決很多應用場景所關心的精度問題。”

蘋芯選擇新型存儲器,一是因為它具有高性能天花板,二是這也有利于團隊核心成員更好地發揮過往的技術積累和工程經驗。

存內計算未來的應用個機會點在哪里呢?現在很多具有AI計算功能的芯片,包括GPUFPGA以及NPU、SOC等,都是基于傳統的馮諾伊曼架構設計的,會受到存儲墻、功耗墻的約束,這就導致他們在絕對計算上很強,但在整個計算效率上存在天花板。

而存內計算就可以彌補這些問題,短期來看,存內計算的主要市場機會主要會出現在端側的產品上,因為存內計算的技術優勢,能夠提供比較高的計算效率和比較低的功耗,比如可穿戴設備、智能家居等是非常適合存內計算的應用方向。

長期來看,隨著新型存儲器工藝的成熟,它不但會給低功耗的市場帶來機會,同時會把計算能力提升2-3個量級,讓存內計算的應用擴展到更多場景中,比如在一些用電量受限,但對絕對算力仍然有要求的場景層面,存內計算就可以給客戶帶來差異化的選擇機會。

小結

如Gardner曲線的解讀,任何新興技術在發展初期都會經歷一些起伏,尤其像存內計算這種在底層上有巨大突破的技術,從最初的熱捧,到發展期的理性,到成長期的企穩上升,再到最后產品商業化。扎實的技術背景和可靠的工程化能力,是存內計算企業立足市場并獲得客戶認可的重要基礎。我們期待著更多更好的技術與產品,為智能化場景描繪出更美好的未來。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    7145

    瀏覽量

    89591
  • 計算
    +關注

    關注

    2

    文章

    451

    瀏覽量

    38866
  • AI算法
    +關注

    關注

    0

    文章

    252

    瀏覽量

    12344
收藏 人收藏

    評論

    相關推薦

    科技啟動首屆計算創新大賽

    計算作為一項打破“內存墻”“功耗墻”的顛覆性技術,消除了與算的界限,相比CPU或GPU能夠實現更高計算并行度、更大專用算力,達成數量級
    的頭像 發表于 11-21 10:44 ?309次閱讀

    科技推動新一代計算芯片產品產業化進程

    ? 6月3日,知科技總部啟航儀式在杭州臨平算力小鎮正式舉行,標志著公司在計算芯片領域開啟技術研發、人才戰略、產業升級的新征程。臨平區委書記陳如根,區委常委、組織部長楊霞,區委常委
    的頭像 發表于 06-05 17:16 ?1264次閱讀

    計算原理分類——數字計算與模擬計算

    數字計算與模擬計算各有優劣,都是算一體發展
    的頭像 發表于 05-21 16:26 ?2866次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>原理分類——數字<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>與模擬<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>

    計算——助力實現28nm等效7nm功效

    當的性能。算一體嘗試通過集成存儲和計算在一個芯片甚至一個容器,來突破訪限制,發揮芯片的最大算力。下面我們將重點介紹算一體技術。
    的頭像 發表于 05-17 15:03 ?2116次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>——助力實現28nm等效7nm功效

    論基于電壓域的SRAM計算技術的嶄新前景

    這篇文章總結了馮·諾伊曼架構及其在處理數據密集型應用中所面臨的性能和能耗問題。為了應對這一挑戰,文章介紹了計算技術,其中重點討論了基于電壓域的SRAM
    的頭像 發表于 05-17 14:38 ?1089次閱讀
    論基于電壓域的SRAM<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>技術的嶄新前景

    從MRAM的演進看計算的發展

    我國的計算產業也開始迅猛發展,知科技、九天睿芯、智芯科、后摩智能、蘋芯科技等國內專注
    的頭像 發表于 05-17 14:25 ?1416次閱讀
    從MRAM的演進看<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>的發展

    淺談計算生態環境搭建以及軟件開發

    改進。 未來展望中,計算技術預計將繼續發展,尤其在與軟件開發的協同方面。預計這一領域將見證更高效、靈活可擴展的
    發表于 05-16 16:40

    計算WTM2101編譯工具鏈 資料

    計算是突破物理極限的下一代算力技術- AIGC等人工智能新興產業的快速發展離不開算力,算力的基礎是人工智能芯片。 當前CPU/GPU在執行計算密集型任務時需要將海量參數(ωij)
    發表于 05-16 16:33

    探索計算—基于 SRAM 的計算與基于 MRAM 的算一體的探究

    本文深入探討了基于SRAM和MRAM的算一體技術在計算領域的應用和發展。首先,介紹了基于SRAM的邏輯計算技術,包括其原理、優勢以及在
    的頭像 發表于 05-16 16:10 ?3186次閱讀
    探索<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>—基于 SRAM 的<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>與基于 MRAM 的<b class='flag-5'>存</b>算一體的探究

    計算芯片的基石-存儲介質匯總

    作為新的計算架構,計算(Computing In Memory,CIM)被認為是具有潛力的革命性技術。重點是將存儲與計算融合,有效克服馮
    的頭像 發表于 05-16 15:41 ?2117次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>芯片的基石-存儲介質匯總

    計算芯片研究進展及應用

    器件的狀態,稱為干擾。作為計算應用, NOR Flash編程需要逐個器件進行單獨操作,每個器件存儲8 bit(256個量化狀態)以上的信息,微小的干擾就將導致狀態的變化。
    的頭像 發表于 05-16 15:30 ?1469次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>芯片研究進展及應用

    生態構建重要一環- 計算工具鏈

    本篇文章重點講述計算相關工具鏈,我們將從工具鏈定義出發,依次講述工具鏈研究背景及現有工具鏈、計算
    的頭像 發表于 05-16 14:37 ?1228次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內</b>生態構建重要一環- <b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>工具鏈

    計算技術工具鏈——量化篇

    本篇文章將重點講述計算技術工具鏈之“量化”,我們將從面向計算芯片的深度學習編譯工具鏈、神
    的頭像 發表于 05-16 12:35 ?1371次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>技術工具鏈——量化篇

    淺談計算生態環境搭建以及軟件開發

    在當今數據驅動的商業世界中,能夠快速處理和分析大量數據的能力變得越來越重要。而計算開發環境在此領域發揮其關鍵作用。
    的頭像 發表于 05-15 17:10 ?560次閱讀
    淺談<b class='flag-5'>存</b><b class='flag-5'>內</b><b class='flag-5'>計算</b>生態環境搭建以及軟件開發

    器通向計算新未來,自旋憶器進一步降低能耗

    的全稱是記憶電阻器,是一種表示磁通和電荷關系的電路元件。通過測定憶的阻值,可知道流經它的電荷量,從而有記憶電荷的作用。憶器可以組成類似矩陣的結構,既可以數據,也可以做計算,數據不
    的頭像 發表于 04-30 00:53 ?3977次閱讀
    百家乐官网机器二手| 百家乐号破| 澳门百家乐官方网址| 大西洋城| 永利百家乐娱乐| 大发888线上娱乐城百家乐| 足球.百家乐官网投注网出租| 大发888投注明升网址| 百家乐官网号破| 瑞奇国际娱乐| 百家乐最长的闲| 百家乐官网总厂在哪里| 百家乐筹码桌布| 百家乐官网黄金城游戏大厅| 棋牌娱乐| 百家乐赌场代理荐| 百家乐官网凯时娱乐平台| 大发在线扑克| 博彩百家乐画谜网| 立即博百家乐官网的玩法技巧和规则| 99真人娱乐城| 百家乐博娱乐网赌百家乐| 百家乐官网游戏单机牌| 香格里拉县| 二八杠手法| 百家乐大眼仔小路| 百家乐游戏类型| 百家乐官网玩法最多的娱乐城| 大发888娱乐场大发888娱乐场下载| 百家乐凯时赌场娱乐网规则| 24山向山摆设| 百家乐官网稳赢投注| 太阳城开户网| 飞七棋牌游戏下载| 娱乐城送体验金| 威尼斯人娱乐平台开户| 太阳城百家乐坡解| 狮威百家乐官网娱乐场| 百家乐官网3珠路法| 澳门百家乐官网实战| 五寨县|