【AI达人创造营第二期】基于jetsonnano部署的手势乐器--模型部署

该项目利用Jetson Nano结合PaddleDetection训练的模型，经Tensorrt加速实现手势检测，通过Arduino控制外设输出音阶。8种手势对应14种音阶（含八度抬高），文中详述了设备连接、环境配置、模型部署及相关代码。

0.简介

首先感谢百度Paddle为我提供的硬件设备，为每一个梦想插上了翅膀

一枚热爱技术的菜鸡，今天想做一个目标检测和嵌入式的结合体，做一个jetson nano乐器

方案：

使用paddledetection训练模型并使用paddleInference在jetson nano上部署目标检测网络，

使用Tensorrt进行Jetsonnano的加速，

达到一个令人满意的FPS，检测简单手势，

然后再通过nano控制beep等外设，来达到beep的变频输出

使用7种手势代表7种音阶

do、re、mi、fa、sol、la、si

且为了使得音调更加丰富，我使用了第八种手势，当第八种手势出现在画面中的时候，音阶就会上抬一个八度,于是我们获得了十四个音阶

do、re、mi、fa、sol、la、si、ddo、dre、dmi、dfa、dsol、dla、dsi

从左向右从上往下依次是12 .....最后一个是音阶抬高记号

视频演示

配料表：

Jetson nano x1 Arduino x1 摄像头 x1

电源、无线网卡、网线、风扇

如有外接显示器可以直接用外接显示器而不需要网线连SSH

1.JetsonNano的部署

我这里有一块上好的JetsonNano板，打算在同一局域网下使用ssh连接下面详述

1.Jetson nano的连接

首先如果你有屏幕可以直接用屏幕本条就可以直接忽略

但是如果你是像我一样没有屏幕的玩家，可以通过serial串口进行连接、ssh进行连接、或者VNC远程桌面连接

我是没有显示屏的，我采用的是先使用串口进行连接，使用笔记本电脑开启移动热点，然后使用nano命令行连接wifi，再查询ip地址，知道了ip地址就可以使用ssh连接或使用VNC远程桌面了

使用串口连接，连接

下面是jetson nano的引脚图

按照此引脚图进行连接

使用putty，采用对应的COM口，使用波特率115200

首先使用命令进行网络设备扫描

sudo nmcli dev

可以看见我有wlan0 作为wifi设备，这里我已经连接过了，所以显示connected

使用命令

sudo nmcli dev wifi connect "wifi名称" password "wifi密码" ifname wlan0

进行wifi的连接

然后我们可以使用ping命令检测网络的连通性，这里我直接ping百度了，可以看见是连通的

使用命令

ifconfig

命令查看ip地址，在wlan0后，显示了ip地址：划红线的地方

2.查看CUDA版本与jetpack版本以选择预测库

nvcc -V

来查看cuda版本

这里可以看到我的cuda是10.2的

使用命令

sudo apt-cache show nvidia-jetpack

由Filename可以看出

Filename: pool/main/n/nvidia-jetpack/nvidia-jetpack_4.4-b144_arm64.deb

我的jetpack版本为jetpack_4.4

3.部署安装paddle

这里我直接使用whl包安装对应的linux的预测库

预测库地址

按照上述的对应版本最终我选用了 Jetpack4.5(4.4): nv_jetson-cuda10.2-trt7-nano

4.部署paddledet

如同aistudio上部署一样，我们依然需要先git clone以下paddledetection的库这里不再赘述

git clone https://gitee.com/paddlepaddle/PaddleDetection.git

依然是

#进入文件夹cd PaddleDetection/#安装其他依赖pip3 install -r requirements.txt#编译安装paddledetcd PaddleDetectionpython3 setup.py install

当命令行最后一行执行出现

Finished processing dependencies for paddledet==2.3.0

完成安装

通过后可以通过

python ppdet/modeling/tests/test_architectures.py

检测一下是否成功

出现下图时即可判定成功

按照最新给的教程来即可，或者好像可以直接pip安装包，连编译都不要

这里可以看见报了个Warning，不过不用担心，只要不是Error就可以当作看不见