CNN

CNN在deep learning里占了非常大比例的应用，主要用在图像识别上，架构如下：

CNN的hidden layer包含了m个feature layer，每个feature layer主要利用一个nxn的矩阵来扫视input，可以把这个nxn的矩阵当作放大镜来观测图片里的特徵，矩阵本身包含着w和b（也就是deep learning里我们要优化的参数）。

每个hidden layer之後会加上一个pooling layer去减少模型参数的数量，pooling layer本身也是一个矩阵，但矩阵本身没有包含任何值，主要功能是在扫视图片时，把当下每个矩阵内的最大值选出来（也有其他的方法比如取平均），因而降低参数数量（downsampling）。

最後则会有一个fully connected hidden layer，来把前面提取到的特徵转化成分类机率。