在SEMiBAY2024《HBM與存儲器技術與應用論壇》上,億鑄科技的創始人、董事長兼CEO熊大鵬博士發表了題為《超越極限:大算力芯片的技術挑戰與解決之道》的演講,深入剖析了AI大模型時代算力芯片所面臨的挑戰與機遇。
熊大鵬博士指出,AI大模型技術的快速發展推動了算力需求的急劇增長。隨著數據、算力和模型參數量的不斷提升,AI大模型的能力顯著增強,甚至出現了類似人類的“涌現”能力,預示著AI應用的廣泛落地即將到來。然而,現有的芯片硬件性能提升速度已難以滿足這種急劇增長的算力需求,摩爾定律正面臨前所未有的挑戰。
據Omdia最新報告預測,用于云計算和數據中心人工智能的GPU和其他加速芯片市場規模將大幅增長,但到2026年市場可能會出現明顯拐點,增長動力將從技術采用轉向人工智能應用需求的變化。同時,IDC預測未來人工智能服務器將更加注重提高計算能力和處理效率(能效比),以適應更復雜、更大規模的人工智能應用。
面對這一挑戰,熊大鵬博士強調,硬件架構的創新成為突破算力瓶頸的關鍵路徑之一。現有的AI芯片面臨著“三堵墻”問題:存儲墻、能耗墻和編譯墻。存儲墻是指存儲器的數據訪問速度跟不上計算單元的數據處理速度,導致性能瓶頸;能耗墻則是指隨著芯片性能的提升,能耗和散熱問題成為限制性能進一步提升的主要因素;編譯墻則是隨著AI模型的復雜性增加,編譯器需要處理的數據量和計算任務也急劇增加,使得優化變得非常困難。
為了打破這三堵墻,億鑄科技選擇了創新之路。熊大鵬博士介紹,億鑄科技采用“存算一體超異構”架構這一全新的芯片設計思路,極大地減少了數據搬運的延遲,提升了整體的計算效率和能效比。這種架構通過將數據搬運量大幅下降,使得有效算力密度能夠線性增長,從而突破傳統計算模式的瓶頸。
熊大鵬博士進一步指出,未來算力增長將以存儲單元為中心,而不是傳統的算力單元。通過存算一體架構等技術,可以打破有效算力的天花板,實現更高的有效算力。億鑄科技自成立以來,始終致力于通過存算一體提供更具性價比、更高能效比、更大算力發展空間的AI大算力芯片發展新路徑。
展望未來,熊大鵬博士表示,隨著AI技術的不斷進步和算力需求的不斷增長,億鑄科技將通過創新的存算一體架構為AI芯片的發展提供新的方向。在大模型時代,億鑄科技的技術和產品將為AI技術的發展提供強大的支持,推動整個行業向前發展。我們有理由期待,隨著億鑄科技技術的不斷成熟和應用的不斷擴展,AI芯片技術將迎來一個新的發展階段,為科技進步做出更大的貢獻。
-
芯片
+關注
關注
456文章
51170瀏覽量
427234 -
AI
+關注
關注
87文章
31513瀏覽量
270328 -
算力
+關注
關注
1文章
1012瀏覽量
14954
發布評論請先 登錄
相關推薦
評論