Jetson Nano是英偉達(dá)發(fā)布的一款小型人工智能（AI）計(jì)算主板，最大亮點(diǎn)是帶有嵌入式領(lǐng)域相對(duì)高端的GPU，并且提供AI和計(jì)算機(jī)視覺（Computer Vision）的應(yīng)用程序編程接口（API），可以直接用于注重低功耗的AI應(yīng)用場(chǎng)景。

Jetson Nano自發(fā)布以來，在開源硬件圈子里的熱度一向很高，但由于疫情導(dǎo)致全球物料短缺,一芯難求.Nvidia公司對(duì)于Jetson Nano開發(fā)板的產(chǎn)能急劇下降,市場(chǎng)基本上無貨可買,有貨的商家也將單價(jià)提到極高的價(jià)格.為了保證各位開發(fā)者能夠繼續(xù)使用Jetson Nano開發(fā)板進(jìn)行各項(xiàng)科研工作,圖為信息科技(深圳)有限公司結(jié)合Jetson nano開發(fā)板特性,綜合各項(xiàng)性能,結(jié)合Jetson nano模塊,自研載板,最終在不懈努力之下研發(fā)出了圖為Jetson Nano國產(chǎn)套件,一比一大小還原Nvidia Jetson Nano開發(fā)板,可完美對(duì)接開發(fā)板的各種AI特性以及開發(fā)優(yōu)勢(shì).本篇評(píng)測(cè)除了實(shí)事求是地展示圖為Jetson Nano國產(chǎn)套件的各項(xiàng)性能特點(diǎn)，還將從入門指導(dǎo)角度盡力地為大家排除各種使用障礙。

1.Jetson Nano核心模塊硬件概況

GPU：NVIDIA Maxwell 架構(gòu)，128 個(gè) NVIDIA CUDA 核心

●?CPU：四核 ARM Cortex-A57

●?處理器內(nèi)存：4GB 64 位 LPDDR4

●?存儲(chǔ)：16G EMMC

●?視頻編碼：一路4K@30p、或4路1080p@30、或兩路1080p@60

●?視頻解碼：一路4K@60p、或兩路4K@30、或8路1080p@30

●?攝像頭：2 x MIPI CSI-2或USB或者網(wǎng)絡(luò)攝像頭

●?攝像頭網(wǎng)絡(luò)：千兆以太網(wǎng)

●?顯示器：HDMI 2.0 或 DP1.2

●?高速接口：1 x PCIe、4x USB 3.0I/O

●?UART、2x SPI、3x I2C、I2S、GPIOs

圖為Jetson Nano國產(chǎn)開發(fā)套件由核心板和載板組成，它們通過SO-DIMM接口連接，這種接口常見于筆記本內(nèi)存。圖為Jetson Nano國產(chǎn)開發(fā)套件使用的核心板與Nvidia Jetson Nano開發(fā)板的核心板不同,國產(chǎn)套件是采用帶16g Hynix?emmc5.1作為核心存儲(chǔ),官方套件則是采用sd卡作為核心存儲(chǔ).

eMMC (Embedded Multi Media Card）是MMC協(xié)會(huì)訂立、主要針對(duì)手機(jī)或平板電腦等產(chǎn)品的內(nèi)嵌式存儲(chǔ)器標(biāo)準(zhǔn)規(guī)格。eMMC在封裝中集成了一個(gè)控制器，提供標(biāo)準(zhǔn)接口并管理閃存.eMMC的應(yīng)用是對(duì)存儲(chǔ)容量有較高要求的消費(fèi)電子產(chǎn)品。2011年已大量生產(chǎn)的一些熱門產(chǎn)品，如Palm Pre、Amazon Kindle II和Flip MinoHD，都采用了eMMC。

EMMC優(yōu)點(diǎn):

1．簡化存儲(chǔ)器的設(shè)計(jì)。eMMC是當(dāng)前最紅的移動(dòng)設(shè)備本地存儲(chǔ)解決方案，目的在于簡化手機(jī)存儲(chǔ)器的設(shè)計(jì)，由于NAND Flash芯片的不同品牌包括三星、KingMax、東芝（Toshiba）或海力士（Hynix）、美光（Micron）等，所以都需要根據(jù)每家公司的產(chǎn)品和技術(shù)特性來重新設(shè)計(jì)，而過去并沒有技術(shù)能夠通用所有品牌的NAND Flash芯片。

2．更新速度快;

3．加速產(chǎn)品研發(fā)速度。

相比于sd卡作為核心存儲(chǔ).emmc速度更快,穩(wěn)定性更高,適應(yīng)環(huán)境能力更強(qiáng),更符合當(dāng)前邊緣設(shè)備的系統(tǒng)環(huán)境搭建.

2.供電與系統(tǒng)啟動(dòng)指導(dǎo)

首先，Nvidia開發(fā)板套件里是沒有包含顯示器、HDMI線和電源等部件，這些需要用戶自己準(zhǔn)備或購買。使用的電源為5v4a的DC電源或者M(jìn)icro?USB電源,板子上有個(gè)供電選擇跳線帽，編號(hào)J48。當(dāng)通過Micro-USB供電時(shí)，需要保證J48上的跳線帽斷開，Micro-USB電源導(dǎo)通，DC電源切斷；當(dāng)通過DC接口供電時(shí)，需要保證跳帽接上,這個(gè)在實(shí)際使用過程中往往會(huì)造成使用者的疑惑,懷疑剛收到的設(shè)備有問題.但是在圖為Jetson Nano國產(chǎn)開發(fā)套件上采用唯一DC供電,無需連接跳線帽,直接連接12DC電源適配器即可,在保證簡單實(shí)用的前提下,相比Nvidia開發(fā)套件5v4a的輸入更為穩(wěn)定,面對(duì)大型模型時(shí),也不會(huì)掉電壓力。

圖為Jetson Nano開發(fā)套件的顯示器支持HDMI接口和DP接口。目前市場(chǎng)上HDMI顯示器已經(jīng)比較普及，如果你的顯示器只支持VGA的話，得考慮新買一臺(tái)顯示器。如果使用電視機(jī)做顯示器用，現(xiàn)在市場(chǎng)上主流品牌的液晶電視都同時(shí)支持HDMI和DP。

攝像頭模塊可以使用Jetson Nano推薦的LI-IMX219-MIPI-FF-NANO攝像頭模塊；也支持第三方的樹莓派的Pi Camera V2模塊。如果你已經(jīng)有樹莓派V2攝像頭，可以直接使用。攝像頭接到下圖CAM0和CAM1接口。

3.性能測(cè)試

Jetson Nano應(yīng)該算是閹割加降頻的Jetson TX1。CPU方面去掉了big.LITTLE中的4個(gè)A53，GPU中則直接砍掉了一半的CUDA核心。其實(shí)4個(gè)A53對(duì)于TX1本來就很雞肋，因?yàn)槟悴⒉荒芡瑫r(shí)使用8個(gè)核心，只能按集群來切換。與TX1相比，Nano中的4個(gè)A57頻率也從1.9GHz降到了1.43GHz。由于繼續(xù)使用20nm制程，降頻顯然是降低功耗的另一主要手段。GPU頻率從1GHz降到922MHz，變化不大，也與Switch SoC的最高頻率一致。使用Ubuntu Benchmark Tools做了一些跑分測(cè)試。可以看出性能大致相當(dāng)于2008年的主流CPU。????????????????????????????????

總的來說，Nano的CPU性能強(qiáng)于樹莓派3B，與樹莓派4相差不大。雖然GPU的472GFlops半精度浮點(diǎn)性能大概只有TX2的1/3，但也基本達(dá)到Intel HD Graphics 615集顯的水平。再加上有CUDA加持，實(shí)際性能應(yīng)該更強(qiáng)。那么樹莓派能做的事，Nano都能做，樹莓派做不了的事，Nano或許也能做。

3.1測(cè)試 TensorFlow

跑一段自己寫的非線性回歸代碼， 速度還是挺快的， 使用 vi 新建 python 文件命名： tensorflowDemo.py然后復(fù)制以下代碼進(jìn)去。保存后使用 python3 tensorflowDemo.py 運(yùn)行， 這段必須在圖形化界面下運(yùn)行，因?yàn)闀?huì)出現(xiàn)一張圖表。由于是 TensorFlow2 所以把 import tensorflow as tf 改成了 import tensorflow.compat.v1 as tf 和 tf.disable_v2_behavior()，即代碼的前兩句，如果是TensorFlow1 則為 import tensorflow as tf。

# -*- coding: utf-8 -*-

import tensorflow.compat.v1 as tf tf.disable_v2_behavior()

import numpy as np

import matplotlib.pyplot as plt

x_data = np.linspace(-0.5, 0.5, 200)[:, np.newaxis] noise = np.random.normal(0, 0.02, x_data.shape) y_data = np.square(x_data) + noise

x = tf.placeholder(tf.float32, [None, 1]) y = tf.placeholder(tf.float32, [None, 1])

# 輸入層一個(gè)神經(jīng)元，輸出層一個(gè)神經(jīng)元，中間 10 個(gè)

# 第一層

Weights_L1 = tf.Variable(tf.random.normal([1, 10])) Biases_L1 = tf.Variable(tf.zeros([1, 10])) Wx_plus_b_L1 = tf.matmul(x, Weights_L1) + Biases_L1 L1 = tf.nn.tanh(Wx_plus_b_L1)

# 第二層

Weights_L2 = tf.Variable(tf.random.normal([10, 1])) Biases_L2 = tf.Variable(tf.zeros([1, 1]))

Wx_plus_b_L2 = tf.matmul(L1, Weights_L2) + Biases_L2 pred = tf.nn.tanh(Wx_plus_b_L2)

# 損失函數(shù)

loss = tf.reduce_mean(tf.square(y - pred))

# 訓(xùn)練

train = tf.train.GradientDescentOptimizer(0.1).minimize(loss)

with tf.Session() as sess: sess.run(tf.global_variables_initializer()) for i in range(2000):

sess.run(train, feed_dict={x: x_data, y: y_data})

print("第{0}次，loss = {1}".format(i, sess.run(loss,feed_dict={x: x_data, y: y_data}))) pred_vaule = sess.run(pred, feed_dict={x: x_data})

plt.figure() plt.scatter(x_data, y_data)

plt.plot(x_data, pred_vaule, 'r-', lw=5)

plt.show()

3.2 YOLOv4 環(huán)境搭建和攝像頭實(shí)時(shí)檢測(cè)

因?yàn)橛玫氖莖pencv4所以使用 yolo3編譯可能回出錯(cuò)，可以換成 yolov4 或yolov4-tiny， 同時(shí)YOLO V4無論在精度和速度上都較YOLO V3有了很大的提升，為在性能受限的嵌入式設(shè)備上部署檢測(cè)程序提供了可能。yolo v4和yolov4-tiny的區(qū)別是：tiny是yolov4 的壓縮版，主要運(yùn)行小算力 cpu 核心版本,在 jetso nano上使用tiny版幀率會(huì)比 yolov4提升十多倍。總的來說還是推薦使用yolov4-tiny,幀率提升很多,使用感會(huì)提升很多。

閑話少說，開始安裝。

下載

git clone?https://github.com/AlexeyAB/darknet.git?

配置

cd darknet

sudo?vim?Makefile #修改 Makefile

將下圖標(biāo)注中的三項(xiàng)值由0修改為1

GPU=1

CUDNN=1

OPENCV=1

?

編譯

在 darknet 路徑下編譯

make -j4?

放置權(quán)重文件

將github上下載好權(quán)重文件后,將權(quán)重文件yolov4.weights 和 yolov4-tiny.weights 拷貝至 darknet 目錄下,

測(cè)試

Yolov4 圖片的檢測(cè)

./darknet detect cfg/yolov4.cfg yolov4.weights?data/dog.jpg?# 簡寫版

./darknet?detector?test?cfg/coco.data?cfg/yolov4.cfg?yolov4.weights?data/dog.jpg # 完整版
?

Yolov4?視頻的檢測(cè)(github?下來的data?里面并沒有該視頻文件，需要用戶自行上傳要檢測(cè)的視頻文件到data?文件夾下)

./darknet detector demo cfg/coco.data cfg/yolov4.cfg yolov4.weights data/123.mp4

? 總結(jié)

這個(gè)就是我們傳說中的，英偉達(dá)AIOT的一款重量級(jí)產(chǎn)品 - Jetson Nano！

千萬別小看這快板子，它可是可以跑Ubuntu 18.04， CUDA什么的一應(yīng)俱全，并且具有4G顯存的而且體積非常小的神器.這是一塊性能非常強(qiáng)悍的板子，更重要的是軟件資源非常豐富，你可以編譯依賴庫非常復(fù)雜的caffe，并且你還可以任意編譯任何你的tensorrt加速的模型；這快板子的推理速度可以滿足一些基本的需求。比如:

基于yolov3的人流和車流的檢測(cè);

基于MTCNN的人臉檢測(cè)和比對(duì)（帶人臉建庫);

使用TensorRT加速onnx模型;

基于yolov3的手檢測(cè)器等,

目前人工智能風(fēng)口開始逐步進(jìn)入落地應(yīng)用階段，更多產(chǎn)品希望能夠?qū)⑷斯ぶ悄芩懔\(yùn)用于實(shí)際終端，即實(shí)現(xiàn)所謂的邊緣計(jì)算需求。從根本上來說近幾年推動(dòng)人工智能的核心在于深度學(xué)習(xí)算法，但是深度學(xué)習(xí)的推理加速離不開高速GPU的支持，而一般桌面PC或服務(wù)器級(jí)別的顯卡（如英偉達(dá)1080Ti等）價(jià)格非常昂貴，不適合邊緣計(jì)算需求，而且體積也過于龐大。因此，英偉達(dá)推出的這款嵌入式人工智能開發(fā)板Jetson Nano非常契合當(dāng)前行業(yè)需求。

審核編輯：符乾江