【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化

【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化编译tensorflow里面的toco工具:(bazel安装参考:https://blog.csdn.net/jin739738709/article/details/86705735?spm=1001.2014.3

编译tensorflow里面的toco工具:

(bazel安装参考:【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化)

cd /d D:\lib\tensorflow\tensorflow\lite\toco   (去到\tensorflow-master\tensorflow\lite\toco)

bazel build :toco

 

输入toco命令行进行pb转tflite

 (【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化) 

toco.exe  –input_file=”.\\mymodel\\pbmodel.pb” –output_file=”.\\mymodel\\tflitemodel.tflite” –input_format=”TENSORFLOW_GRAPHDEF” –output_format=”TFLITE” –inference_type=”FLOAT” –input_array=”input_1″ –output_array=”reshape_final/Reshape” 

【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化

转换分两种,一种的转换为float的tf lite,另一种可以转换为对模型进行unit8的量化版本的模型。注意,只有量化训练的模型才能进行量化的tf_lite转换。

本文是非量化的转换! 

 

如果非要量化

toco.exe  –input_file=”.\\mymodel\\pbmodel.pb” –output_file=”.\\mymodel\\tflitemodel.tflite” –input_format=”TENSORFLOW_GRAPHDEF” –output_format=”TFLITE” –inference_type=”QUANTIZED_UINT8″ –input_array=”input_1″ –output_array=”reshape_final/Reshape” –std_value=127.5 –mean_value=127.5 –default_ranges_min 0 –default_ranges_max 255

【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化

报错了,是relu层不能量化的问题,需要提前设计量化的网络模型进行训练!

今天的文章【Tensorflow】toco编译+利用toco进行pb转tflite+模型量化分享到此就结束了,感谢您的阅读。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/64147.html

(0)
编程小号编程小号

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注