基于Pytorch三值化网络TWN的构建

最近有实验的需要，要用一下pytorch，发现有好的地方也有不好地方，这里先简单记一下。部分不好的地方：
比较呆板，运行设备，freeze是否有效，是否需要配合require_gradient，转换tensor类型，float类型，cpu，gpu的tensor，tensor与numpy还不完全一致，打印或者输出还是需要额外操作，data，item等属性，tensor展开操作，简化操作的bug，不管怎么说，还是挺繁琐的。
好的地方自然就是动态图，debug更加方面，即时运行，但是由于没有tensorflow严格，所以会有很多不好默认情况。

言归正传，这篇博客是打算写backward函数的。

https://blog.csdn.net/m0_49079037/article/details/107406235
https://blog.csdn.net/just_sort/article/details/107192208
https://my.oschina.net/u/4580321/blog/4407949
https://zhuanlan.zhihu.com/p/159487474
https://zhuanlan.zhihu.com/p/37213786
https://blog.csdn.net/Mr____Cheng/article/details/118420367
https://blog.csdn.net/sinat_28731575/article/details/90342082
https://www.cnblogs.com/JeasonIsCoding/p/10164948.html
https://blog.csdn.net/huyaoyu/article/details/81059315
https://blog.csdn.net/weixin_38314865/article/details/100423919
https://www.jianshu.com/p/afc04447c186
https://blog.csdn.net/f156207495/article/details/88727860
https://blog.csdn.net/weixin_39546520/article/details/111449629
https://blog.csdn.net/huyaoyu/article/details/81059315
https://download.csdn.net/download/weixin_38698018/12854866
https://zhuanlan.zhihu.com/p/89442276
https://blog.csdn.net/u011622208/article/details/100042933
https://blog.csdn.net/u013049912/article/details/105628097
https://www.pianshen.com/article/52051629132/

https://github.com/hguq/IntegerNet/blob/main/layer/function.py
https://github.com/666DZY666/micronet/blob/master/micronet/compression/quantization/wbwtab/quantize.py

今天的文章基于Pytorch三值化网络TWN的构建分享到此就结束了，感谢您的阅读。