核心提示:MATLAB代做|FPGA代做|python代做-CNN卷积神经网络的程序…
function net = cnnbp(net, y)
n = numel(net.layers); % 网络层数
% error
net.e = net.o – y;
% loss function
% 代价函数是 均方误差
net.L = 1/2* sum(net.e(:) .^ 2) / size(net.e, 2);
%% backprop deltas
% 这里可以参考 UFLDL 的 反向传导算法 的说明
% 输出层的 灵敏度 或者 残差
net.od = net.e .* (net.o .* (1 – net.o)); % output delta
% 残差 反向传播回 前一层
net.fvd = (net.ffW’ * net.od); % feature vector delta
if strcmp(net.layers{n}.type, ‘c’) % only conv layers has sigm function
net.fvd = net.fvd .* (net.fv .* (1 – net.fv));
end
% reshape feature vector deltas into output map style
sa = size(net.layers{n}.a{1}); % 最后一层特征map的大小。这里的最后一层都是指输出层的前一层
fvnum = sa(1) * sa(2); % 因为是将最后一层特征map拉成一条向量,所以对于一个样本来说,特征维数是这样
for j = 1 : numel(net.layers{n}.a) % 最后一层的特征map的个数
% 在fvd里面保存的是所有样本的特征向量(在cnnff.m函数中用特征map拉成的),所以这里需要重新
% 变换回来特征map的形式。d 保存的是 delta,也就是 灵敏度 或者 残差
net.layers{n}.d{j} = reshape(net.fvd(((j – 1) * fvnum + 1) : j * fvnum, :), sa(1), sa(2), sa(3));
end
% 对于 输出层前面的层(与输出层计算残差的方式不同)
for l = (n – 1) : -1 : 1
if strcmp(net.layers{l}.type, ‘c’)
for j = 1 : numel(net.layers{l}.a) % 该层特征map的个数
% net.layers{l}.d{j} 保存的是 第l层 的 第j个 map 的 灵敏度map。 也就是每个神经元节点的delta的值
% expand的操作相当于对l+1层的灵敏度map进行上采样。然后前面的操作相当于对该层的输入a进行sigmoid求导
% 这条公式请参考 Notes on Convolutional Neural Networks
% for k = 1:size(net.layers{l + 1}.d{j}, 3)
% net.layers{l}.d{j}(:,:,k) = net.layers{l}.a{j}(:,:,k) .* (1 – net.layers{l}.a{j}(:,:,k)) .* kron(net.layers{l + 1}.d{j}(:,:,k), ones(net.layers{l + 1}.scale)) / net.layers{l + 1}.scale ^ 2;
% end
net.layers{l}.d{j} = net.layers{l}.a{j} .* (1 – net.layers{l}.a{j}) .* (expand(net.layers{l + 1}.d{j}, [net.layers{l + 1}.scale net.layers{l + 1}.scale 1]) / net.layers{l + 1}.scale ^ 2);
end
elseif strcmp(net.layers{l}.type, ‘s’)
for i = 1 : numel(net.layers{l}.a) % 第l层特征map的个数
z = zeros(size(net.layers{l}.a{1}));
for j = 1 : numel(net.layers{l + 1}.a) % 第l+1层特征map的个数
z = z + convn(net.layers{l + 1}.d{j}, rot180(net.layers{l + 1}.k{i}{j}), ‘full’);
end
net.layers{l}.d{i} = z;
end
end
end
%% calc gradients
% 这里与 Notes on Convolutional Neural Networks 中不同,这里的 子采样 层没有参数,也没有
% 激活函数,所以在子采样层是没有需要求解的参数的
for l = 2 : n
if strcmp(net.layers{l}.type, ‘c’)
for j = 1 : numel(net.layers{l}.a)
for i = 1 : numel(net.layers{l – 1}.a)
% dk 保存的是 误差对卷积核 的导数
net.layers{l}.dk{i}{j} = convn(flipall(net.layers{l – 1}.a{i}), net.layers{l}.d{j}, ‘valid’) / size(net.layers{l}.d{j}, 3);
end
% db 保存的是 误差对于bias基 的导数
net.layers{l}.db{j} = sum(net.layers{l}.d{j}(:)) / size(net.layers{l}.d{j}, 3);
end
end
end
% 最后一层perceptron的gradient的计算
net.dffW = net.od * (net.fv)’ / size(net.od, 2);
net.dffb = mean(net.od, 2);
function X = rot180(X)
X = flipdim(flipdim(X, 1), 2);
end
end
联系:highspeedlogic
QQ :1224848052
微信:HuangL1121
邮箱:1224848052@qq.com
微信扫一扫:
今天的文章代做python程序_MATLAB代做|FPGA代做|python代做-CNN卷积神经网络的程序分享到此就结束了,感谢您的阅读,如果确实帮到您,您可以动动手指转发给其他人。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/32496.html