通常，人工智能（AI）計算大多是在數(shù)據(jù)中心、企業(yè)核心設(shè)備或電信邊緣處理器上遠(yuǎn)程執(zhí)行的，而不是在本地設(shè)備上。其中緣由主要是AI計算需要數(shù)百個不同類型的芯片來執(zhí)行，硬件的尺寸、成本和功耗都非常高。但是，對于那些對帶寬、時延敏感的實時性應(yīng)用而言，全部上“云”就不是最好的選擇了。

幸好，嵌入式AI已經(jīng)開始改變這一切！

為什么需要嵌入式AI？

過去10年，通用嵌入式計算取得了飛速發(fā)展，其應(yīng)用觸角已延伸至航空航天、工業(yè)、電力、消費等各個領(lǐng)域。不過，將嵌入式與AI結(jié)合起來是最近幾年才出現(xiàn)的事情。
嵌入式AI，實際上是一種讓AI算法可以在終端設(shè)備上運行的技術(shù)概念。因嵌入式AI的芯片體積更小，價格相對低廉，產(chǎn)生的熱量和耗電量更是比“云”端設(shè)備小得多，因而可以集成到智能手機(jī)等手持設(shè)備以及機(jī)器人等非消費類設(shè)備中。正是嵌入式AI或者邊緣AI（edge AI）芯片的出現(xiàn)，減少或消除了將大量數(shù)據(jù)發(fā)送到云端的需要，從而在可用性、速度以及數(shù)據(jù)安全和隱私方面帶來了極大的便利和好處。

嵌入式AI的目標(biāo)是能夠在邊緣使用專門的硬件進(jìn)行高效的計算。這些設(shè)備上的人工智能模型需要是可訓(xùn)練的，無論是在設(shè)備級別還是在云端，這就需要將訓(xùn)練好的模型傳輸回邊緣。回顧人工智能的發(fā)展歷程，我們看到了計算能力從云端到邊緣的緩慢卸載（圖1）。

歸納起來，嵌入式AI的出現(xiàn)主要源自下面三個方面的影響。

一是來自硬件支持。這一點非常關(guān)鍵。在過去的幾年里，微控制器和應(yīng)用處理器的技術(shù)演進(jìn)實在是太驚人了。微控制器現(xiàn)在能支持兆字節(jié)的閃存和RAM，系統(tǒng)時鐘頻率能達(dá)到甚至超過1 GHz，有些控制器還能支持DSP指令，這意味著它們可以有效地執(zhí)行AI中的推理任務(wù)。隨著處理器計算能力的大幅提升，在邊緣支持機(jī)器學(xué)習(xí)不再需要太多額外的成本。

二是大幅簡化的軟件開發(fā)過程。機(jī)器學(xué)習(xí)已經(jīng)成為物聯(lián)網(wǎng)和云計算不可或缺的工具，它可以極大地簡化軟件開發(fā)。尤其是在語音識別、圖像分類和預(yù)測維護(hù)等領(lǐng)域，機(jī)器學(xué)習(xí)可以大大簡化開發(fā)過程，加快開發(fā)速度。以物聯(lián)網(wǎng)為例，每天都會產(chǎn)生海量數(shù)據(jù)，數(shù)據(jù)分析是一項龐大的任務(wù)，通過機(jī)器學(xué)習(xí)訓(xùn)練出一個模型，然后在嵌入式系統(tǒng)上部署推理，這些數(shù)據(jù)的分析將不再困難。

三是市場的推動。嵌入式AI正在變成市場的一個營銷熱點。一個產(chǎn)品能否熱銷，除了功能和性能出眾，尋找賣點也很重要。機(jī)器學(xué)習(xí)現(xiàn)在就是市場的熱門話題，將其用于你的產(chǎn)品設(shè)計中，它很可能就會成為撬動市場的一個支點。

嵌入式AI還有瓶頸

邊緣嵌入式AI芯片的應(yīng)用給消費者和企業(yè)帶來了重大變化。對于消費者來說，邊緣AI芯片可以提供很多功能——從解鎖手機(jī)，到與語音助手進(jìn)行對話，到在極其困難的條件下拍攝照片，而且不需要互聯(lián)網(wǎng)連接。但從長遠(yuǎn)來看，邊緣AI芯片的更大影響可能來自于其在企業(yè)中的應(yīng)用。在企業(yè)中，邊緣AI芯片可以使公司的物聯(lián)網(wǎng)應(yīng)用達(dá)到一個全新的水平。

在這些利好的背后，問題也隨之出現(xiàn)：現(xiàn)有的標(biāo)準(zhǔn)芯片不太符合邊緣側(cè)智能化的需求。目前，機(jī)器學(xué)習(xí)主要由CPU、GPU、FPGA和ASIC的混合體來進(jìn)行所有的訓(xùn)練和推理。從早期AI直至今天，CPU、GPU和FPGA的應(yīng)用非常廣泛，它們很好地契合了深度學(xué)習(xí)的內(nèi)存密集型需求。不過，開發(fā)人員和系統(tǒng)設(shè)計人員逐漸發(fā)現(xiàn)，要在嵌入式設(shè)計中添加某種形式的神經(jīng)網(wǎng)絡(luò)或深度學(xué)習(xí)能力，將現(xiàn)有的CPU、GPU、FPGA等標(biāo)準(zhǔn)芯片降級為通用嵌入式AI，會出現(xiàn)水土不服的現(xiàn)象。其主要原因是這些通常放在數(shù)據(jù)中心的芯片普遍尺寸大、價格昂貴、耗電量大。

換句話說，在實際應(yīng)用中，現(xiàn)在的嵌入式AI還有瓶頸。這個瓶頸不是在算力方面，而是芯片的尺寸、價格、耗電及散熱等方面。因此，面向邊緣智能的嵌入式AI離不開專用芯片支持。

半導(dǎo)體廠商的新商機(jī)

嵌入式AI在未來的經(jīng)濟(jì)增長中正在扮演關(guān)鍵的角色，它們不可避免地將會出現(xiàn)在汽車、智能家居、機(jī)器人以及各種電子設(shè)備上。根據(jù)德勤公司對人工智能芯片行業(yè)的預(yù)測，到2020年，全球?qū)⑹鄢龀^7.5億個邊緣AI芯片，收入達(dá)26億美元。與2017年相比，年復(fù)合年增長率達(dá)到36%。此外，邊緣AI芯片市場的增長速度還將遠(yuǎn)遠(yuǎn)超過整個芯片市場。到2024年，預(yù)計邊緣AI芯片的銷量將超過15億，年銷售額增長至少為20%，這個增速是整個半導(dǎo)體行業(yè)預(yù)測的9%復(fù)合年增長率的兩倍多。按行業(yè)看，目前消費端的邊緣AI芯片市場比企業(yè)市場大得多，但增速不及后者。預(yù)計在2020年至2024年間，消費端的邊緣AI芯片市場復(fù)合年增長率將達(dá)到18%，企業(yè)級為50%。

那么，誰將從嵌入式AI芯片這一新興市場中獲益呢？答案很明顯，他們就是制造嵌入式AI芯片的公司。現(xiàn)在，進(jìn)入這一行業(yè)的半導(dǎo)體公司很多，最具代表性的企業(yè)有NXP（恩智浦）、STMicroelectronics、Maxim、arm、Xilinx（賽靈思）、Renesas、Lattice等。他們已經(jīng)推出硬件、軟件、開發(fā)工具等一系列解決方案，相關(guān)的生態(tài)系統(tǒng)也已逐步建立。
以下是過去一年中我們看到的嵌入式AI芯片領(lǐng)域的“新物種”，從中我們可以看到眾多廠商在這個領(lǐng)域的技術(shù)路線圖。

NXP i.MX 8M Plus：將高性能機(jī)器學(xué)習(xí)推向邊緣端

對于許多應(yīng)用而言，邊緣端是進(jìn)行機(jī)器學(xué)習(xí)處理的理想位置。NXP i.MX 8M Plus是一款配備了專用高性能機(jī)器學(xué)習(xí)加速器的i.MX應(yīng)用處理器。因使用了14nm FinFET工藝技術(shù)，故i.MX 8M Plus擁有很高的性能且保持低功耗。該處理器還采用了同時支持兩個低成本高清圖像傳感器或一個4K分辨率圖像傳感器的雙攝像頭ISP，足以應(yīng)對人臉、物體對象和手勢識別等機(jī)器學(xué)習(xí)任務(wù)。

此外，它還集成了獨立的800MHz Cortex-M7，用來處理實時任務(wù)、H.265和H.264的視頻編解碼、800MHz HiFi4 DSP以及用于語音識別的8通道PDM麥克風(fēng)輸入。借助i.MX 8M Plus，語音識別、對象檢測、人臉識別、對象分割、增強(qiáng)現(xiàn)實、手勢識別等應(yīng)用均可在邊緣運行機(jī)器學(xué)習(xí)。

Xilinx Versal ACAP：將智能引入到邊緣設(shè)備

Xilinx Versal ACAP是一款自適應(yīng)計算加速平臺，它融合了用于嵌入式計算的新一代標(biāo)量引擎、用于FPGA芯片編程的自適應(yīng)引擎，以及用于AI推斷與高級信號處理的智能引擎，擁有卓越的計算性能和單位功耗。

為了讓更多的開發(fā)者受益于賽靈思所提供的從邊緣到云的人工智能和深度學(xué)習(xí)推斷加速度，賽靈思緊接著又推出了另一款軟件平臺產(chǎn)品——Vitis AI。Vitis AI開發(fā)環(huán)境是賽靈思在其硬件平臺上進(jìn)行AI推理的開發(fā)平臺，可加速基于賽靈思平臺部署深度學(xué)習(xí)推斷的進(jìn)程，其中的模型涵蓋不同的應(yīng)用，包括ADAS/AD、視頻監(jiān)控、機(jī)器人和數(shù)據(jù)中心等。

Maxim神經(jīng)網(wǎng)絡(luò)加速器芯片：在邊緣實現(xiàn)復(fù)雜的嵌入式?jīng)Q策

Maxim神經(jīng)網(wǎng)絡(luò)加速器MAX78000是一款低功耗微控制器，它支持電池供電的嵌入式IoT設(shè)備在邊緣通過快速、低功耗AI推理來制定復(fù)雜決策。MAX78000將高能效AI處理與超低功耗微控制器結(jié)合在一起，內(nèi)建的基于硬件的卷積神經(jīng)網(wǎng)絡(luò) (CNN) 加速器可在電池供電應(yīng)用執(zhí)行AI推理，而僅消耗微焦耳級別的能量。

與軟件方案相比，這種快速、低功耗的決策實施使得復(fù)雜的AI推理能耗降低到前期方案的百分之一以內(nèi)，采用AI技術(shù)的電池供電系統(tǒng)的運行時間可得到大幅延長。更重要的是，MAX78000的成本只有FPGA或GPU方案的零頭，而執(zhí)行推理的速度比低功耗微控制器上實施的軟件方案快100倍。

總之，嵌入式AI的興起，使得傳統(tǒng)的嵌入式廠商也有機(jī)會參與到AI的盛宴之中。不過要想在分食未來AI應(yīng)用市場的蛋糕時分得更多的份額，那現(xiàn)在就應(yīng)該開始行動了！