卷积神经网络CNN代码解析
deepLear
Toolboxmaster是一个深度学习matlab包里面含有很多机器学习算法如卷积神经网络CNN深度信念网络DBN自动编码AutoE
coder堆栈SAE卷积CAE的作者是RasmusBergPalm
代码下载httpsgithubcomrasmusbergpalmDeepLear
Toolbox
这里我们介绍deepLear
Toolboxmaster中的CNN部分。
DeepLear
Toolboxmaster中CNN内的函数
调用关系为
该模型使用了m
ist的数字m
ist_ui
t8mat作为训练样本作为c
的一个使用样例
每个样本特征为一个2828的向量。
f网络结构为
让我们来看看各个函数
一、Test_example_CNN2
三、c
trai
m5
四、c
ffm6
五、c
bpm7
五、c
applygradsm10
六、c
testm11
一、Test_example_CNN
Test_example_CNN
1设置CNN的基本参数规格如卷积、降采样层的数量卷积核的大小、降采样的降幅
2c
setup函数初始化卷积核、偏置等
3c
trai
函数训练c
把训练数据分成batch然后调用
31c
ff完成训练的前向过程
f32c
bp计算并传递神经网络的error并计算梯度权重的修改量
33c
applygrads把计算出来的梯度加到原始模型上去
4c
test函数测试当前模型的准确率
该模型采用的数据为m
ist_ui
t8mat
含有70000个手写数字样本其中60000作为训练样本10000作为测试样本。把数据转成相应的格式并归一化。
设置网络结构及训练参数
初始化网络对数据进行批训练验证模型准确率
绘制均方误差曲线
二、C
setupm
该函数你用于初始化CNN的参数。
设置各层的mapsize大小
初始化卷积层的卷积核、bias
尾部单层感知机的参数设置
bias统一设置为0
f权重设置为11之间的随机数sqrt6输入神经元数量输出神经元数量
对于卷积核权重输入输出为fa
_i
fa
_out
fa
_out
etlayersloutputmaps
etlayerslker
elsize2
卷积核初始化1层卷积为16个卷积核2层卷积一共61272个卷积核。对于每个卷积输出featuremapfa
_i
表示该层的一个输出map所对应的所有卷积核包含的神经元的总数。125625
fa
_i
umI
putmaps
etlayerslker
elsize2
fi
125or625
fout1625or61225
etlayerslkijra
d
etlayerslker
elsize052sqrt6fa
_i
fa
_out
1卷积降采样的参数初始化
f2尾部单层感知机的参数权重和偏量设置
三、c
trai
m
该函数用于训练CNN。
生成随机序列每次选取一个batch50个样本进行训练。
批训练计算50个随机样本的梯度求和之后一次性更新到模型权重中。在批训练过程中调用
C
ffm完成前向过程
C
bpm完成误差传导和梯度计算过程
C
applygradsm把计算出来的梯度加到原始模型上去
f四、c
ffm
1、取得CNN的输入
2、两次卷积核降采样层处理
3、尾部单层感知机的数据处理需要r