Day 2 Convolutional Neural Network(CNN)

前言

昨天才刚讲完NN的缺点，今天就要先来介绍CNN，主要是CNN是图像辨识中一个很重要的突破，但是CNN还是有一些缺点，这边就先来简单的介绍CNN以及CNN的缺点

CNN

W. Law, "Capsule Neural Networks — The future for autonomous vehicles," 2019.

首先先来看CNN的架构
CNN的架构，是由卷积(Convolutional)+Relu，和池化这两层不断的交叉处理获得特徵
利用扁平层将二维的输出结果摊平成一维向量，再利用全连接层做最後的特徵提取

由於提取出来的特徵可能是负无限大到正无限大，因此可以使用softmax函数将其转换为0~1之间的数，就可以根据不同的权重找出输入的图片的分类为何

https://zh.wikipedia.org/wiki/%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C

卷积和池化这两层最主要是为了要减少後续运算时的效能，上图为池化层在做的事情，图中使用的为最大池化层，左上角橘色的部分，抓取最大值6作为2x2的池化窗口(depth slice)的输出，但是这个方法其实会失去很多重要的特徵，因此capsule使用向量并非纯量就是为了解决这个问题

CNN的限制

W. Law, "Capsule Neural Networks — The future for autonomous vehicles," 2019.

CNN最大的挑战就是没办法是别上图中的姿势、纹理和变形，因此需要导入胶囊网路
CNN在分类图片中有很好的效果，因为它可以了解脸上的不同特徵
通过学习成千上万张样本图像并从错误中学习来做到这一点

但由於CNN的平移不变性，因此这两张图片CNN都会识别为脸
CNN的限制就在於，他没办法识别两个特徵之间的关系

而胶囊网路由於加入了向量的概念，因此有办法识别到不同特徵间的关系