推動5G+AI邊緣側創新夯實智能未來發展基礎
高通技術公司首席商務官Jim Cathey在大會首日全體會議——產業發展論壇上表示:
5G對于一個更加智能的世界至關重要。憑借卓越的性能、可靠性和容量,5G正在向智能手機之外的更多領域擴展,實現萬物互聯,成為數字經濟的關鍵基礎設施。同時,5G還助力AI擴展至更多邊緣側終端,不僅推動了智能的規模化擴展,還能夠使在邊緣側生成的情境相關數據與云端近乎實時地共享。
作為終端側AI領導者,高通公司投入AI研發已超過15年,構建了強大的邊緣側AI技術、布局和規模化優勢。高通技術公司全球副總裁兼高通AI研究負責人侯紀磊博士表示:
憑借一系列基礎研究,以及跨AI應用、模型、硬件與軟件的全棧終端側AI優化,我們的持續創新讓公司始終處于終端側AI解決方案的最前沿。
侯紀磊博士特別指出,高通的AI解決方案旨在提供最佳能效,讓AI無處不在。高通AI引擎作為公司多年全棧AI優化的結晶,能夠以極低功耗提供業界領先的終端側AI性能,賦能當前和未來的用例。此外,可擴展的技術架構讓用戶能夠采用一個高度優化的AI軟件棧,即可在不同終端和模型上進行工作,以強大的靈活性和穩健性應對未來的AI技術發展。
采用混合AI或僅在終端側運行AI,能夠在全球范圍帶來成本、能耗、性能、隱私、安全和個性化優勢。隨著生成式AI的飛速普及和計算需求的日益增長,混合處理的重要性空前突顯。高通認為,要真正推動生成式AI成為主流,并發揮其最大潛能,必須采取混合AI架構。近期,高通公司發布白皮書《混合AI是AI的未來》,詳細闡述了公司的混合AI愿景。
高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar在演講中表示:
為實現生成式AI的規模化擴展,AI處理的重心正在向邊緣轉移。混合AI架構在云端和邊緣終端之間分配并協同處理AI工作負載,能夠實現更強大、更高效且高度優化的AI。我們正在引領混合AI愿景的實現,通過無線連接、高效計算和分布式AI融合云端和終端,釋放生成式AI的無限潛力。
高通技術公司產品管理高級副總裁兼AI負責人
Ziad Asghar發表演講
高通的AI能力已賦能一系列廣泛的產品,包括手機、汽車、XR、PC、物聯網設備等,搭載驍龍和高通平臺的已上市用戶終端數量已達到數十億臺。據Ziad介紹,高通正在將更多生成式AI用例向邊緣側遷移,目前,參數超過10億的AI模型已經能夠在手機上運行,且性能和精度達到與云端相似的水平。不久的將來,擁有100億或更大參數的生成式AI模型將能夠在終端上運行,推動生成式AI的普及。 技術哺育行業生態打造開放元宇宙未來
高通作為5G、AI、XR等創新技術的領導者,致力于以行業領先的軟硬件綜合解決方案,加速元宇宙和XR生態系統的發展。高通技術公司高級副總裁程立新在演講中表示:
5G、AI和XR,是構建元宇宙的三大基礎技術。利用我們在5G和終端側AI領域的強大技術優勢,高通公司正在加速5G、AI和XR技術的融合,構建智能網聯邊緣,推動打造更沉浸、更智能的XR世界。
引領業界AI創新樹立行業技術新標桿
高通以開創性的技術創新,持續引領終端側智能體驗的發展。第二代驍龍8移動平臺的高通AI引擎,榮獲了世界人工智能大會最高獎項——SAIL獎(卓越人工智能引領者獎)。高通AI引擎能夠為終端側AI推理加速提供卓越性能和能效,并支持豐富AI用例創新,提升用戶體驗。高通AI引擎實現軟硬件一體,硬件側采用異構計算架構,其關鍵核心Hexagon處理器擁有一系列創新,如提供專用供電系統,支持微切片推理、INT4精度、transformer網絡加速等。
第二代驍龍8移動平臺的高通AI引擎
榮獲SAIL獎(卓越人工智能引領者獎)
憑借高通AI引擎的全棧AI能力和優化手段,高通已經率先將生成式AI能力帶到了終端側,并在WAIC上進行了技術展示,讓廣大參會者見證了強大終端側AI將如何助力生成式AI在終端側實現無限潛力。其中,全球首個運行在Android手機上的Stable Diffusion終端側演示,能夠在15秒內執行20步推理,完全在手機上處理超過10億參數模型。這是智能手機上最快的推理速度,媲美云端時延,且用戶文本輸入完全不受限制。目前,高通已經將這一用例擴展至驍龍計算平臺賦能的PC產品。此外,高通還帶來了全球最快的手機上的ControlNet終端側演示,該模型擁有15億參數,在這項技術展示中,只用不到12秒即可在移動終端上生成AI圖像,無需訪問任何云端,便能提供高效、有趣、可靠且私密的交互式用戶體驗。
原文標題:高通亮相世界人工智能大會,描繪混合AI賦能的智能未來
文章出處:【微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
-
高通
+關注
關注
77文章
7504瀏覽量
191168
原文標題:高通亮相世界人工智能大會,描繪混合AI賦能的智能未來
文章出處:【微信號:Qualcomm_China,微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
YOGO ROBOT亮相2024世界人工智能大會
墨芯2024世界人工智能大會精彩回顧
報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI
云知聲亮相2024世界人工智能大會
中國電信亮相2024世界人工智能大會
軟通動力亮相2024世界人工智能大會
AI+醫療閃耀世界人工智能大會 泰茂科技以AI賦能數據服務
軟通動力子公司鴻湖萬聯最新成果SwanLink AI亮相世界人工智能大會
![軟通動力子公司鴻湖萬聯最新成果SwanLink <b class='flag-5'>AI</b><b class='flag-5'>亮相</b><b class='flag-5'>世界人工智能</b><b class='flag-5'>大會</b>](https://file1.elecfans.com/web2/M00/F8/64/wKgZomaHvROAAf1sAAEXdBo-Dh0515.png)
神州數碼亮相2024世界人工智能大會,以生成式AI和智能算力共繪智能未來
![神州數碼<b class='flag-5'>亮相</b>2024<b class='flag-5'>世界人工智能</b><b class='flag-5'>大會</b>,以生成式<b class='flag-5'>AI</b>和<b class='flag-5'>智能</b>算力共繪<b class='flag-5'>智能</b><b class='flag-5'>未來</b>](https://file1.elecfans.com//web2/M00/F8/4E/wKgZomaHkPyAT3aRAAO0LGZsKrY325.png)
評論