嵌入式单板机玩 AI 推理

Jacktang · 发表于2019-10-14 21:40

嵌入式单板机玩 AI 推理 [复制链接]

OPEN Al LAB，Arm中国，瑞芯微联合推出了 EAIDK-310 人工智能开发套件单板机，本文使用 EAIDK-310 单板机玩 AI 推理。

简介：

EAIDK 全称 Embedded Artificial Intelligence Development Kit，嵌入式人工智能开发套件，是全球首个采用Arm架构的人工智能开发平台，专为 AI 开发者精心打造，面向边缘计算的人工智能开发套件。

硬件参数：

EAIDK-310 是采用瑞芯微的 ARM SoC 芯片 RK3228H，普普通通的一款嵌入式 arm 单板机，详细硬件参数如下：

软件平台：

EAIDK-310 开发套件的特色几乎全部集中于软件方面，开发套件预装的系统内集成了嵌入式AI开发平台 AID，包括三部分，
1，嵌入式深度学习框架Tengine
2，嵌入式计算机视觉加速库 BladeCV
3，异构计算库HCL
详细如下：

从参数上看 Tengine 是支持 NPU 单元的，并且是底层硬件级优化，支持多种模型
BkadeCV 也是底层硬件级优化，HCL 异构计算加速。

嵌入式AI 开发平台完完全全是为 ARM低功耗 SoC 定制的一套 AI 开发平台，底层硬件级优化，异构计算，多模型支持，NPU 支持

系统镜像

EAIDK-310 开发套件预装了 fedora 28 系统，内含上述嵌入式开发套件，并且提供系统镜像下载，提供烧录工具，可以放心使用，不用担心系统弄挂了无法恢复，没有备份系统，AI 开发平台安装等问题

开机：

EAIDK-310 开发套件只需要连接一个 HDMI 显示器，连接网线，然后就可以供电开机；

这里的电源是有要求的，如上面硬件参数规格要求电源为 5V2A，实际使用最起码也要 usb3.0 接口供电，usb2.0 接口的供电能力实在太小了，无法开机。

正常开机一切顺利的话，屏幕会先显示启动信息：

很快进入系统登录界面：

很科幻，很 AI 的主题，EAIDK 专属系统主题，用户名密码都是 openailab，登录就可以正常使用，系统是 fedora 28

嵌入式AI 体验：

1，先运行一个分类器：

识别为小狐猫，虎猫，埃及猫，chihuahua

衣服，发型，人物，分类相当精准

2，接入 usb 摄像头，获取视频：
这个应用使用了编解码

3，人脸识别
EAIDK-310 开发板需要接 HDMI 显示器使用，无法去到室外测试，只能在室内测试，测试方法：
1，电脑爱奇艺播放器播放视频
2， EAIDK-310 的 USB 摄像头捕获电脑屏幕，识别爱奇艺视频中的人脸

人脸识别使用的 mtcnn，多任务卷积神经网络，主要是人脸识别，特征点标识：
识别到人脸后框出来，并且描出眼睛鼻子嘴角 5 个点

识别视频中三个人，需要245ms，能达到4 fps

摄像头拍摄静态图片，识别人脸，检测模型还是使用 mtcnn

识别静态图片一个人，需要170ms，差不多 6 fps

总结：

EAIDK-310 开发板在 AI 推理识别过程中没有卡顿死机中断等情况，实现了 AI 推理，物体分类，人脸识别等：

从帧率上看可能你会觉得有点慢，但是基于这样的硬件性能参数，达到这个效果已经很满意很意外了，这个 EAIDK-310 开发套件不在于硬件性能多么好多么强大，更多的是感受到了这套嵌入式 AI 软件开发平台的强大，可以在低功耗 ARM SoC 单板机中运行，更低的能耗更低的硬件门槛实现 AI 推理功能。