國際權威標準性能評估組織SPEC第35屆年會日前在美國舉行。會上,SPEC組織確定新一年工作計劃,為推動AI算力產業的更快發展,國際最新AI算力評測標準SPEC ML即將發布,該標準由浪潮信息、NVIDIA、Intel、AMD、Red Hat等成員聯合開發。
與業界一般AI算力評測標準不同,「國際最新AI算力評測標準SPEC ML」模擬了AI訓練和推理不同場景的端到端全棧流程,涵蓋業界最豐富的主流AI工作負載,評估包括多個AI場景的綜合性能、集群擴展性、能效等多種關鍵參數,可以幫助用戶更好地理解算力系統的瓶頸并進行優化,是一款更貼近用戶真實AI業務需求的算力測試基準。目前,浪潮信息、NVIDIA、Dell等企業正針對SPEC ML評測標準率先開展測試工作,國際最新AI算力評測標準的重大發布,將幫助用戶更全面地了解AI算力系統的性能、擴展性及能效水平。
此外,SPEC ML技術委員會舉行換屆選舉,浪潮信息和英特爾連任技術委員會主席、副主席。
近年來,隨著人工智能產業快速興起,也激發了AI算力的爆發式增長。過去10年,AI計算的能力已經提高了不低于100萬倍,但要滿足像ChatGPT這類擁有巨量的參數和深度網絡結構的大模型,算力性能提升還面臨巨大的挑戰。為了推動AI算力技術發展,更好評估不同芯片、算法、計算框架的AI算力性能表現,方便用戶選擇適合自己的計算解決方案,業界涌現出一批AI測評基準,比如MLPerf、AIPerf、DeepBench等。一般評測基準測試中,比如訓練場景,會忽略需要大規模數據集的預訓練過程,直接進行模型訓練場景測試,而且僅會測試算力系統在ResNet50、SSD、Transformer、Bert等某個單一場景下的極限性能。但隨著模型規模越來越大,從單節點到大規模集群,訓練流程更加復雜,模態算法也更加豐富,需要更貼合用戶真實訓練場景的評測基準,系統評估算力系統面向多種AI工作負載的綜合性能、集群擴展性、能效等多種關鍵參數。
過去一年,SPEC ML技術委員會面向用戶更復雜的訓練流程、更豐富的AI負載,完成了國際最新AI算力評測標準SPEC ML的開發工作。SPEC ML測試過程中,無論是訓練場景還是推理場景,測試用例會模擬用戶真實的應用環境,綜合評估基于不同芯片、不同算法框架,服務器整機在ResNet、Yolo、SSD、3D U-Net、MobileNet、BERT等10多種AI工作負載下的綜合性能,以及多節點集群擴展性能、能效、關鍵系統性能參數等,尤其是Diffusion、Bloom等負載的加入,實現了對諸如大模型等AI熱點應用的性能評測,幫助用戶更全面地了解AI算力系統的性能及能效水平。本次大會,SPEC ML技術委員會展示了ML測試工具,測試基準的架構、各項功能及展現結果等,獲得SPEC領導層及各成員的高度評價。
SPEC是一個全球性的、權威的第三方應用性能測試組織,組織成員包括英特爾、甲骨文、NVIDIA、蘋果、微軟、浪潮信息、加州大學伯克利分校、清華大學等,擁有SPEC CPU、SPEC Power、SPEC Cloud等十幾項測試基準,真實模擬了企業不同應用場景下的整機性能、能效,是各類企業用戶的采購和信息系統搭建的重要決策依據之一。作為新一屆SPEC OSSC委員,浪潮信息將繼續承擔SPEC ML、SPEC CPU、SPEC Power、SPEC Cloud等技術小組日常工作審查、重大事項決策、測試研究及決策測試標準的發展方向等職責。
-
浪潮
+關注
關注
1文章
468瀏覽量
23945 -
AI
+關注
關注
87文章
31513瀏覽量
270330 -
AI算力
+關注
關注
0文章
74瀏覽量
8835
發布評論請先 登錄
相關推薦
SPEC ML基準測試新增模算效率指標
浪潮信息與實驗室合作部署42kW風冷算力倉
浪潮信息與智源研究院攜手共建大模型多元算力生態
浪潮信息與智源研究院達成戰略合作協議
浪潮信息與能投天府云合作打造42kW智算風冷算力倉
浪潮信息攜手天府云數據科技推出了42kW智算風冷算力倉
浪潮信息攜全棧智算產品和方案亮相WAIC 2024
浪潮信息發布源2.0-M32開源大模型,模算效率大幅提升
![<b class='flag-5'>浪潮信息</b><b class='flag-5'>發布</b>源2.0-M32開源大模型,模<b class='flag-5'>算</b>效率大幅提升](https://file1.elecfans.com/web2/M00/EA/09/wKgZomZWhpaAZM9pAAAwKdCLsIU541.png)
浪潮信息發布“源2.0-M32”開源大模型
浪潮信息“元腦”品牌全面升級,全力進擊人工智能!
![<b class='flag-5'>浪潮信息</b>“元腦”品牌全面升級,全力進擊人工智能!](https://file1.elecfans.com/web2/M00/CF/42/wKgZomYh2lyADlK9AAANUbNvv98911.jpg)
浪潮信息發布企業大模型開發平臺"元腦企智"EPAI,加速AI創新落地
![<b class='flag-5'>浪潮信息</b><b class='flag-5'>發布</b>企業大模型開發平臺"元腦企智"EPAI,加速<b class='flag-5'>AI</b>創新落地](https://file1.elecfans.com//web2/M00/CD/CC/wKgZomYhHmKAKGzHAAEDWtsf3sc160.jpg)
浪潮信息發布企業大模型開發平臺“元腦企智”EPAI
![<b class='flag-5'>浪潮信息</b><b class='flag-5'>發布</b>企業大模型開發平臺“元腦企智”EPAI](https://file1.elecfans.com/web2/M00/CD/2F/wKgaomYggfiAUJ84AAANX-qM0HU927.jpg)
權威測試組織SPEC評測結果公布,憶聯助力新華三服務器再創佳績
![權威測試組織<b class='flag-5'>SPEC</b><b class='flag-5'>評測</b>結果公布,憶聯助力新華三服務器再創佳績](https://file1.elecfans.com/web2/M00/C4/8B/wKgZomX0HQOAPpHoAACRGI3K15M004.png)
評論