上一期MCX N系列微處理器之NPU使用方法簡介中,向給大家介紹了MCX N系列微處理器中的NPU--eIQ Neutron NPU,本期將為大家帶來NPU的入門使用方法。
MCUXpresso軟件開發套件(簡稱MCUXpressoSDK)包含了一套全面的軟件工具集,并預集成了專為微控制器設計的ML推理引擎:TensorFlow Lite(TFLM)。Neutron庫也與TFLM進行了整合,在軟件系統中NPU以黑盒子的方式提供給應用層,用戶完全不需要關心NPU怎么驅動,直接使用TFLM接口運行模型即可。下表列出了NPU所支持的運算符:
Operator | Operator input type | MCXN947/MCXN548 NPU |
ADD | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
AVERAGE_POOL_2D | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
CONV_2D | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
DEPTHWISE_CONV_2D | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
FULLY_CONNECTED | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
UNIDIRECTIONAL_SEQUENCE_ LSTM |
Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | No | |
LOGISTIC (Sigmoid) | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
MAX_POOL_2D | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | Yes | |
MUL | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | No | |
SOFTMAX | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | No | |
SVDF | Float | No |
Uint8(PTQ) | No | |
Int8(PCQ) | No |
Note:
?PTQ — Per-tensor quantized (asymmetric 8-bit quantization)
?PCQ — Per-channel quantized (symmetric 8-bit quantization)
更加詳細的描述請見 eIQ TensorFlow Lite User's Guide.pdf in middleware/eiq/doc of SDK.
首先從nxp.com中下載并安裝MCUXpressoIDE 11.8.1以上版本,在SDKbuilder中下載SDK_2_14_0_FRDM-MCXN947,確保配置middleware中的eIQ,如下圖所示:
在MCUXpresso IDE中安裝SDK壓縮包,安裝成功過后在左側快捷欄中點擊‘import SDK examples’, 選擇frdm-mcxn947硬件,點擊下一步,可以看到SDK自帶的示例,其中eiq_examples 中包含以下7個工程:
eIQ examples描述如下:
eIQ example | Description | Hardware requirements |
tflm_cifar10 |
CIFAR10 圖像分類演示 |
FRDM-MCXN947 USB type-c cable |
tflm_kws | 關鍵詞檢測 |
FRDM-MCXN947 USB type-c cable |
tflm_label_image | 1000類圖像分類 |
FRDM-MCXN947 USB type-c cable |
mpp_camera_mobilenet_view_tflm | 基于攝像頭的圖像分類 |
FRDM-MCXN947 LCD: MikroElektronika TFT Proto 5" OV7670 module USB type-c cable |
mpp_camera_ultraface_view_tflm | 基于攝像頭的人臉檢測 |
FRDM-MCXN947 LCD: MikroElektronika TFT Proto 5" OV7670 module USB type-c cable |
mpp_camera_view | 攝像頭圖像預覽 |
FRDM-MCXN947 LCD: MikroElektronika TFT Proto 5" OV7670 module USB type-c cable |
tflm_modelrunner | TFLite Model 性能分析示例 |
FRDM-MCXN947 RJ45 Network cable |
PS:示例詳細描述見工程目錄中的Readme文檔
我們以tflm_cifar10為例,導入tflm_cifar10 example, 編譯工程,結果如圖所示:
連接FRDM-MCXN947開發板的調試接口,點擊IDE中的Debug按鈕開始調試,打開串口調試工具,鏈接調試串口,Debug輸出如下:
模型在NPU上的推理時間是6ms,分類結果是ship與測試圖片相符。
-
微控制器
+關注
關注
48文章
7649瀏覽量
152109 -
微處理器
+關注
關注
11文章
2274瀏覽量
82776 -
串口調試
+關注
關注
2文章
269瀏覽量
24771 -
NPU
+關注
關注
2文章
292瀏覽量
18785
原文標題:MCX N系列微處理器之NPU使用方法 - 入門篇
文章出處:【微信號:NXP_SMART_HARDWARE,微信公眾號:恩智浦MCU加油站】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論