近日,墨芯人工智能憑借在大模型算力方案上的優勢,入選創業邦“2023最值得關注的AIGC公司”榜單,稀疏計算再獲認可。
本次評選以專業的視角發掘現階段積極探索AIGC技術和應用的企業,評估投資價值、技術成熟度、市場營銷、生態合作、創新潛力等維度的綜合表現。最終墨芯從參評的500余家企業中脫穎而出,成功入選。
創業邦指出,本次上榜企業“或是身經百戰的互聯網大廠,亦或是剛剛展露頭角但具有投資價值的AI創業先鋒,面對AIGC的巨浪,乘風而起,展現出了非凡的行動力”。
隨著大模型浪潮席卷全球,作為AIGC基礎層的算力產業備受矚目。創業邦在對AIGC基礎層的解讀中提及“由于上游人工智能算力、數據基礎設施或壟斷或資源稀缺,如芯片、服務器等,議價權較高,但下游需求激增,現階段最先受到裨益”。
在算力領域,稀疏計算作為突破算力瓶頸的關鍵技術,獲得高度的市場關注。墨芯以領先的產品實力、突出的商業化進展,多次被權威機構推舉為AIGC產業的代表企業。
性能領先:率先支持千億參數大模型
墨芯AI計算平臺率先支持高達千億參數的大語言模型,并在吞吐、延時等多項指標上表現優異,具備高吞吐、低延時的優勢:
在1300億參數ChatGLM大模型上,8張墨芯S30計算卡吞吐達432 token/s,性能超過主流GPU,加快AI內容生成速度,大幅優化用戶體驗。
緩解落地難題:助力AIGC企業降本增效
針對大模型占用大量計算資源、能耗巨大、費用高昂等難點,墨芯憑借領先的稀疏計算技術,大幅減少AI計算中的無效元素,從而能夠以更少數量的AI計算卡就能支持大模型推理。這為AI企業減緩算力基礎設施與運營成本壓力,達到降本增效的目標。
應用前景廣闊:商業進展取得突破
墨芯基于性能領先的硬件產品與軟件平臺,為客戶提供企業級端到端的解決方案,使開發人員能將墨芯的解決方案幾乎零成本集成到現有的基礎設施和算法交付中。
墨芯產品已實現量產,并成為支持ByteMLPerf的供應商之一,助力企業加速AI應用。
作為AIGC產業代表企業,墨芯將持續發揮產品技術創新優勢,為AIGC應用帶來強大動力支撐,驅動產業升級與社會進步。
審核編輯:劉清
-
人工智能
+關注
關注
1796文章
47669瀏覽量
240289 -
GPU芯片
+關注
關注
1文章
303瀏覽量
5897 -
AIGC
+關注
關注
1文章
367瀏覽量
1606
原文標題:墨芯人工智能榮獲“2023最值得關注AIGC企業”
文章出處:【微信號:墨芯人工智能,微信公眾號:墨芯人工智能】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論