.nb格式模型转换总结

本文详细介绍了如何在64位Ubuntu 16.04系统上进行模型转换,包括安装Python和依赖,量化配置,以及转换流程。量化过程中涉及int8、int16和uint8的选择,并提供了模型转换的步骤,如导入模型、量化和生成case代码,最终目标是将模型转换为适用于Khadas平台的.nbg格式文件。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Step 1       Prepare a computer with the 64-bit Ubuntu 16.04 system.

Step 2      Run the following command to install python3 and pip:

sudo apt-get install python3 python3-pip python3-virtualenv

Step 3      Do as follows to install the related dependencies:

Obtain the acuity-toolkit-binar toolkit and go to the root directory.

Execute: for req in $(cat requirements.txt); do pip3 install $req; done

Step 4 Check the environment

Execute: python3 bin/checkenv.py

Note: if check success, will have Env Pass: Env check SUCCESS!!! print .

量化:量化是将以往用 32bit 或者 64bit 表达的浮点数用 16bit、8bit 或者更低的2bit 方式进行存储。

模型转换过程是先将模型量化成 int8、int16 或者 uint8 数据格式,再转成基于khadas平台运行的 nbg 格式文件,并导出运行的 case 代码。

量化配置脚本如下:

1.通常情况下,选择u8/int8的方式均可。u8是google推荐量化方式。

2.一般建议不选取int16,相较8bit量化,模型大一倍,并在精度上没有明显的优势。

3.参考模型前处理后的取值范围选取量化方式。比如,如果模型前处理后的取值范围为(0~255),此时建议直接选取 u8 的量化方式。

4. 先随便选择一种量化方式,执行完量化操作后,查看生成的 xxxx.quantize 文件,确认统计的

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值