详细内容可看上面网站。
一、原理
ResNet原文中的表格列出了几种基本的网络结构配置,ResNet50是50-layer的一列,如下表:
首先是起始阶段的输入层,即layer0层,由一个7x7,步距为2的卷积+BN+relu,加上3x3最大值池化,步长为2的池化层构成。如下图所示:
后面几层都是由单个的残差模块构成,基本公式是x+f(x),如layer1模块,具体过程如下图所示:
上图意思是在该模块传入x后,对x经过两种处理:一是分别经过卷积核是3X3和1X1的两次卷积处理,当然,两次卷积处理都有BN+relu,处理后得到输出f(x);二是对x做shape改变,即做下采样变换,保证x与f(x)的shape相同,然后将这两种不同处理的输出相加。这样做的好处是模块的最终输出既保留上一层的详细信息,又增加了两次卷积的加强信息,主要防止深层网络的梯度消失。
二、代码如下
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/bian-cheng-ri-ji/33864.html