1511|1

81

帖子

0

TA的资源

一粒金砂(高级)

#AI挑战营第二站# onnx转rknn [复制链接]

本帖最后由 慕容雪花 于 2024-6-12 13:06 编辑

#AI挑战营第一站# 基于PyTorch,在PC上完成MNIST手写数字识别模型训练 https://bbs.eeworld.com.cn/thread-1278408-1-1.html 

 

为了使用 RKNPU,用户需要首先在计算机上运行 RKNN-Toolkit2 工具,将训练好的模型转换为 RKNN 格式模型。RKNN-Toolkit2 工具在 PC 平台上提供 C 或 Python 接口,简化模型的部署和运行。用户可以通过该工具轻松完成以下功能:模型转换、量化、推理、性能和内存评估、量化精度分析以及模型加密。RKNN 软件栈可以帮助用户快速的将 AI 模型部署到 Rockchip 芯片。整体的框架如下

image.png  

 

RV1106 需要使用rknn-toolkit2:

git clone https://github.com/airockchip/rknn-toolkit2

接下来根据Python版本选择合适的whl:

pip install ./rknn-toolkit2/rknn-toolkit2/packages/rknn_toolkit2-2.0.0b0+9bab5682-cp38-cp38-linux_x86_64.whl

  image.png  

接下来验证rknn toolkit是否安装成功:

image.png  

 

之后可以通过Python脚本来进行模型转换,参考大佬:https://bbs.eeworld.com.cn/thread-1280156-1-1.html

from rknn.api import RKNN

# Create RKNN object
rknn = RKNN(verbose=True)

# pre-process config
print('--> config model')
rknn.config(target_platform='rv1106', mean_values=[[28]], std_values=[[28]])
print('done')

# Load model
print('--> Loading model')
ret = rknn.load_onnx(model='./mnist_101_model.onnx')
if ret != 0:
    print('Load model failed!')
    exit(ret)
print('done')


rknn.build(do_quantization=True, dataset='./data.txt')  # 构建RKNN模型,可选参数量化
if ret != 0:
    print('Build model failed!')
    exit(ret)
print('done')

ret = rknn.export_rknn('./mnist.rknn')  # 导出RKNN模型文件
if ret != 0:
    print('Export rknn model failed!')
    exit(ret)
print('done')

# 释放 RKNN 对象
rknn.release()

有个步骤是新建一个data.txt,指向其中一个测试数据:

image.png

 

最后运行脚本:

image.png    

附件:

model.rknn (27.97 KB, 下载次数: 0)

最新回复

模型转换、量化、推理、性能和内存评估、量化精度分析以及模型加密,实现的功能不少   详情 回复 发表于 2024-6-13 07:45

回复
举报

6122

帖子

0

TA的资源

五彩晶圆(高级)

模型转换、量化、推理、性能和内存评估、量化精度分析以及模型加密,实现的功能不少


回复
您需要登录后才可以回帖 登录 | 注册

猜你喜欢
随便看看
查找数据手册?

EEWorld Datasheet 技术支持

相关文章 更多>>
推荐帖子
运放稳定性-(第三第四部分)

本帖最后由 dontium 于 2015-1-23 13:28 编辑 第三部分:Ro与Rout 第四部分:环路稳定性主要技巧与经验

LPC11U14实现SD卡U盘

此实验在本人设计的LPC1114/LPC1343/LPC11U14开发板是验证成功:下面先秀秀图吧,下面是三种芯片三种开发板。SD卡在背面。。。 ...

用两次团购的板子做的东西

85020使用MSP-EXP430FR5739作为数据采集端,采集加速度和温度,另外我又加上了超声波模块测距,NTC则是使用查表法测的,所以不太 ...

CC3200做节点的web服务:3、CC3200 httpserver

本帖最后由 freebsder 于 2015-5-31 00:43 编辑 freebsder写在EEWorld,如需转载可以找 @soso 商量。 CC3200做节点的web服务 ...

SPIN3202控制板:单电阻FOC电机驱动原理图/代码/调试文档等详细资料开源分享 (主...

此内容由EEWORLD论坛网友music_586原创,如需转载或用于商业用途需征得作者同意并注明出处 SPIN3202控制板:单电阻FOC电 ...

分享:单片机的电磁炉控制详解

1、 引言 电磁炉是家用电器的主要烹饪厨具,无需明火以电磁感应加热方式直接加热锅具底部,是一种安全高效卫生的加热器具。目前 ...

国内常用类器件厂家,我晓得的不多

本帖最后由 xy598646744 于 2020-6-24 18:56 编辑 运放我就晓得的就是圣邦微和3peak 光耦器件,我就只晓得重庆卓睿,奥德 ...

Flash——如何将应用程序从RAM配置修改为Flash配置?

如何将应用程序从基于RAM的配置修改为基于Flash的配置? 以下适用于TMS320F2838x、TMS320F2837x、TMS320F2807x、TMS320F2 ...

整理的一些ACDC开关电源的EE的相关帖子,下载中心还有学堂视频

TI WEBENCH设计工具 晒WEBENCH设计的过程+ACDC 12V1A电源设计 闲云潭影 https://bbs.eeworld.com.cn/thread-446069-1-1.htm ...

免费申请: 国产芯AGM AG32VF407(MCU+FPGA),零售16.8,要卷死“32”们

要卷死各种“32”的国产芯AG32VF407系列产品测评来啦,欢迎感兴趣的网友参与。 706928 AGM AG32VF407系列32位微 ...

关闭
站长推荐上一条 1/10 下一条

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 国产芯 安防电子 汽车电子 手机便携 工业控制 家用电子 医疗电子 测试测量 网络通信 物联网

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved
快速回复 返回顶部 返回列表