衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

嵌入式芯片中神經網絡加速器如何支持本地化AI處理

454398 ? 來源:ST社區 ? 作者:ST社區 ? 2022-12-20 18:25 ? 次閱讀

來源:ST社區

GPU和NNA(神經網絡加速器)正在迅速成為AI應用的關鍵要素。隨著不同企業開始挖掘神經網絡在各種任務(比如自然語言處理、圖片分類)中的潛力,集成人工智能元素的產品數量正在穩步的增長。與此同時,對于這些任務的處理也正在從傳統的云端架構轉移到設備本身上來,嵌入式芯片中集成了專用的神經網絡加速器,可支持本地化AI處理。例如先進的駕駛輔助系統(ADAS)能夠實時監控前方道路,還有集成語音識別類功能的消費電子產品,比如虛擬助理。基于神經網絡的AI應用正在多個細分市場不斷擴大。

Imagination公司的業務是為芯片設計提供必要的內核組件,我們在嵌入式圖形處理器(GPU)和神經網絡加速器(NNA)技術方面聞名,我們將這些技術授權給世界領先的芯片供應商。他們的產品被廣泛應用在多個產品和服務中,因此Imagination在市場上占有著獨特的位置,我們使得整個生態系統都能夠參與到AI的發展中來。

不可否認,AI在很多應用中都是至關重要的,但是也有很多的挑戰。其中之一就是協調好終端設備和云服務器之間的處理負載,將AI處理操作放在最佳的位置來完成。例如在消費者終端設備上進行本地化AI語音識別;對于“喚醒”指令或其他簡單指令,因為本地設備無法存儲龐大的知識數據庫,要利用這些數據就必須在云服務器中實現很大一部分AI處理操作。目前的情況是很多市場上銷售的產品都帶有AI功能,但實際上它們只是在本地進行簡單的模式匹配和識別,然后依賴云服務器完成進一步的AI處理。

這種情況將會逐漸改變,隨著芯片工藝技術變得更加普遍,嵌入式神經網絡加速器(NNA)將會變得幾乎和CPU一樣無處不在,這為在終端設備中提高人工智能處理能力創造了機會。例如我們希望看到智能安防攝像頭能夠熟練的監控特定事件,不再局限于簡單的錄像,使用終端設備AI功能來處理識別視野內的一些特征,比如道路上的車輛或人群中的面孔。這也會衍生一些其他功能,比如確定車輛的制造商和型號、或者是某些人獲得授權。輸入結果可能不是可識別的視頻內容,可能只是描述這些結果的原始數據。將人工智能嵌入到安防攝像頭中甚至可以減少不靠譜情況的發生從而降低成本,因為攝像頭內的AI功能可以識別正常行為與可疑行為之間的區別。

雖然人工智能的應用數量在不斷增加,但這并不意味著集成神經網特性的單個SoC是所有應用場景的發展方向。如果我們考慮讓人工智能涉及大部分細分市場,由于使用該技術的產品在加工要求上有很大的不同,自然會出現多樣化。分散的市場很難與通用的應用處理器一起結合使用,例如那些集成了NNA器件和GPU的處理器,事實上,“一刀切”的方式并不總是適用的。

雖然一些市場為SoC供應商提供了大量的機會,比如智能手機、汽車ADAS等,但是許多以使用AI為目標的市場需求量并不是很大。值得注意的是,一些產品可能需要人工智能來進行語音處理或圖像識別,但并非兩者都需要:智能照明系統供應商不太可能使用最初為智能手機而設計的SoC,僅僅是為了將人工智能引入到其應用中,這并不符合成本效益。解決這個問題的方法是創建專門的人工智能芯片,與主應用處理器一起作為配套芯片使用,這些器件可以承擔原來由主應用處理器上的NNA核心來處理的AI任務,這具有明顯的優勢:SoC供應商可以提供一系列具有不同性能水平的終端AI器件;此外,OEM廠商還可以根據他們的期望在特定應用中處理AI任務,提供多個選項來適當的擴展或縮減產品解決方案。

那么人工智能市場將走向何方?我預計人們對人工智能的興趣和需求都將繼續增長,事實上,支撐這一目標的技術不斷變得成熟。相反,幾乎可以肯定的是,人們會意識到人工智能并不是解決所有問題的答案,炒作現象可能會有所減弱,許多公司也會轉移注意力。他們將會利用人工智能的潛力來增強系統的能力,但是人工智能未必是這些系統的運行核心。

更進一步說,真正的人工智能——機器擁有意識,能夠基于認知推理作出決策——這還需要10年或更長的時間。這意味著云互連在未來很多年都將至關重要,它不僅能提供必要的大規模并行計算資源(可能是通過量子機器),還能提供巨大的數據存儲,人工智能依靠這些數據來理解周圍的世界。更高帶寬的通信技術有望在2019年問世,尤其是5G和802.11ax標準,因此相信云AI架構和互連帶寬都將相應擴大。

PowerVR Series2NX架構

對于真正處于前沿的人工智能,我們需要構想出創新的方法來提高晶體管在硅片上的封裝密度,同時使其既具有通過學習獲得知識的能力又具備所需的推理技能,從而設計全新的SoC器件。

Imagination公司希望為芯片供應商提供關鍵的核心技術,從而構建世界領先的人工智能解決方案。PowerVR GPU提供了高性能的GPU計算能力,用于處理AI中的可視化操作,比如圖像識別和排序、手勢識別驅動接口以及實時視頻分析等。PowerVR NNA(神經網絡加速器)是任何前沿人工智能解決方案的核心,為高級推理和邊緣數據處理提供必要的硬件加速。我們的GPU和NNA能夠為高性能的AI處理提供一切必要的技術并使硅芯片獲得優勢。

人工智能的未來正在變得清晰…但是當它完成某些任務花費的時間比我們預期的時間要長時大家不要感到驚訝。

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    456

    文章

    51185

    瀏覽量

    427282
  • 嵌入式
    +關注

    關注

    5092

    文章

    19178

    瀏覽量

    307691
收藏 人收藏

    評論

    相關推薦

    關于卷積神經網絡,這些概念你厘清了么~

    隨著人工智能(AI)技術的快速發展,AI可以越來越多地支持以前無法實現或者難以實現的應用。本文基于此解釋了 卷積神經網絡 (CNN)及其對人工智能和機器學習的意義。CNN是一種能夠從
    發表于 10-24 13:56

    【飛凌嵌入式OK3576-C開發板體驗】RKNN神經網絡-車牌識別

    LPRNet基于深層神經網絡設計,通過輕量級的卷積神經網絡實現車牌識別。它采用端到端的訓練方式,不依賴字符分割,能夠直接處理整張車牌圖像,并輸出最終的字符序列。這種設計提高了識別的實時性和準確性
    發表于 10-10 16:40

    【飛凌嵌入式OK3576-C開發板體驗】開箱報告

    工具,如sudo、git、gcc等。所以開發過程中需要安裝虛擬機,安裝UnbuntuPC端操作系統進行軟件開發。 但是其芯片和系統支持RKNN神經網絡,市容RKNN-Toolkit2工具,可以將常用
    發表于 10-10 09:22

    什么是神經網絡加速器?它有哪些特點?

    )和圖形處理器(GPU)雖然可以處理神經網絡計算,但在能效比和計算密度上往往難以滿足特定應用場景的需求。因此,神經網絡加速器應運而生,它通過
    的頭像 發表于 07-11 10:40 ?578次閱讀

    rnn是遞歸神經網絡還是循環神經網絡

    RNN(Recurrent Neural Network)是循環神經網絡,而非遞歸神經網絡。循環神經網絡是一種具有時間序列特性的神經網絡,能夠處理
    的頭像 發表于 07-05 09:52 ?654次閱讀

    遞歸神經網絡是循環神經網絡

    。 遞歸神經網絡的概念 遞歸神經網絡是一種具有短期記憶功能的神經網絡,它能夠處理序列數據,如時間序列、文本、語音等。與傳統的前饋神經網絡不同
    的頭像 發表于 07-04 14:54 ?873次閱讀

    人工智能神經網絡芯片的介紹

    人工智能神經網絡芯片是一類專門為深度學習和神經網絡算法設計的處理器。它們具有高性能、低功耗、可擴展等特點,廣泛應用于圖像識別、語音識別、自然語言處理
    的頭像 發表于 07-04 09:33 ?920次閱讀

    神經網絡芯片與傳統芯片的區別和聯系

    引言 隨著人工智能技術的快速發展,深度學習算法在圖像識別、自然語言處理、語音識別等領域取得了顯著的成果。然而,深度學習算法對計算資源的需求非常高,傳統的計算芯片已經無法滿足其需求。因此,神經網絡
    的頭像 發表于 07-04 09:31 ?1116次閱讀

    神經網絡芯片和普通芯片區別

    處理神經網絡算法的芯片。它通過模擬人腦神經元的工作方式,實現了對大量數據的并行處理和快速學習。 普通芯片
    的頭像 發表于 07-04 09:30 ?1369次閱讀

    反向傳播神經網絡和bp神經網絡的區別

    反向傳播神經網絡(Backpropagation Neural Network,簡稱BP神經網絡)是一種多層前饋神經網絡,它通過反向傳播算法來調整網絡中的權重和偏置,以達到最小
    的頭像 發表于 07-03 11:00 ?868次閱讀

    生成AI神經網絡模型的區別和聯系

    生成AI神經網絡模型是現代人工智能領域的兩個核心概念,它們在推動技術進步和應用拓展方面發揮著至關重要的作用。本文將詳細探討生成AI
    的頭像 發表于 07-02 15:03 ?973次閱讀

    西門子推出Catapult AI NN:重塑神經網絡加速器設計的未來

    的需求,西門子數字化工業軟件日前推出了一款名為Catapult AI NN的創新軟件,旨在幫助神經網絡加速器在專用集成電路(ASIC)和芯片級系統(SoC)上實現更高效的高層次綜合(H
    的頭像 發表于 06-19 16:40 ?803次閱讀

    西門子推出Catapult AI NN軟件,賦能神經網絡加速器設計

    西門子數字化工業軟件近日發布了Catapult AI NN軟件,這款軟件在神經網絡加速器設計領域邁出了重要一步。Catapult AI NN軟件專注于在專用集成電路(ASIC)和
    的頭像 發表于 06-19 11:27 ?926次閱讀

    芯品#MAX78002 新型AI MCU,能夠使神經網絡以超低功耗運行

    的Maxim超低功耗微控制相結合。通過這款基于硬件的卷積神經網絡(CNN)加速器,即使是電池供電的應用也可執行AI推理,同時功耗僅為微焦耳級。 MAX78002是一款先進的片上系統,
    的頭像 發表于 05-07 17:47 ?7465次閱讀
    芯品#MAX78002 新型<b class='flag-5'>AI</b> MCU,能夠使<b class='flag-5'>神經網絡</b>以超低功耗運行

    家居智能,推動AI加速器的發展

    電子發燒友網報道(文/黃山明)AI加速芯片,也稱為人工智能加速器AI Accelerator),是一種專為執行機器學習和深度學習任務而設計
    的頭像 發表于 02-23 00:18 ?4685次閱讀
    百家乐官网桌子| 百家乐投注玩多少钱| 百家乐官网真钱棋牌| 博彩百家乐官网最新优惠| 澳门百家乐群策略| 澳门百家乐皇冠网| 中国百家乐官网的玩法技巧和规则 | 百家乐官网免费体验金| 先锋百家乐官网的玩法技巧和规则 | 威尼斯人娱乐城网上赌场| 百家乐官网缩水工具| 百家乐官网娱乐平台备用网址| 百家乐官网高命中投注| 在线百家乐官网怎么下注| 百家乐官网出庄概率| 淳安县| 富裕县| 百家乐官网投注办法| 万年县| 百家乐官网游戏合法吗| 免费百家乐官网游戏机| 百家乐官网有方法赚反水| 百家乐官网傻瓜式投注法| 百家乐官网的方法和公式| 缅甸百家乐官网娱乐| 视频百家乐官网破解| 冷水江市| 电子百家乐官网博彩正网| 玩百家乐官网新太阳城| 百家乐官网龙虎台布作弊技巧| 百家乐官网中P代表| 在百家乐官网二庄两闲揽的概率| 百家乐官网赌博策略| 金牌百家乐官网的玩法技巧和规则 | 真人百家乐官网网西陆| 百家乐官网发牌靴发牌盒| 电脑百家乐官网玩| 百家乐棋牌技巧| 百家乐赌博在线娱乐| 大发888娱乐城 健账号| 西贡区|