六大基础深度神经网络之CNN

左侧是传统卷积网络输入的是一列像素点，右侧是卷积神经网络，输入的是具有长宽通道数的原始图像

下图为整体架构。卷积层可以认为提取特征，池化层是压缩特征。全连接层是把图像展平然后计算10个类别的概率值

 给出一张图像不同区域的特征不同，我们需要提取出来这些不同。下图从一张32*32*3的图像中提取一张5*5*3的小区域，第一步将左上角三乘三的区域与区域右下角小字的权值矩阵进行内积计算，就是对应位置相乘，即3*0+3*1+2*2+0*2+0*2+1*0+3*0+1*1+2*2=12，然后每次把3*3的区域与权值相乘，最终得到绿色的矩阵。

常见图像是彩色的就是三通道，上图中的32*32*3中的3也就说明是彩色图像，若为1则是黑白图像

对于每个彩色图像的卷积来讲，rgb每个通道都会卷积计算的一个矩阵，再把三个矩阵对应相加就是彩色图像的卷积结果

 其中W1、H1表示输入的宽度、长度; W2、 H2表示输出特征图的宽度、长度;F表示卷积核长和宽的大小; S表示滑动窗口的步长;P表示边界填充(加几圈0)。

 池化目的是减少特征图的信息量，下图为最大池化，选取2*2的过滤器步长为2，选取每个2*2区域内最大的数

 D为vgg较主流版本，其中maxpool会损失信息，为了弥补损失的信息，在下一次卷积中会使特征图翻倍

 在CIFAR-10数据集中发现56层卷积比20层更效果更差，为了避免层数增加导致的效果变差引入残差网络