Day 19 - 卷积神经网络 CNN (4)-Pooling layer & Activation Function

Pooling Layer

影像的spatial information不会因scale而消失，所以加入pooling layer来减少运算量。
在此阶段，数据大小会大幅降低。

以Max Pooling为例，它会将4格方格内之最大值取出，并舍弃其余三者。其方式与convolution有点相似。
Pooling Layer的目的就是要进行降维，将整个数据量压小，让整个模型参数量可以在下降，避免训练的时候overfitting。

Flatten Layer (Full Connection)

有关Full Connection , 请参考我的另一篇Day 14 - 神经网络(D)NN 到 卷积神经网络CNN (1)
即经典的MLP(Multi-Layer Perceptron) layer，最後输出10维即为对应数字的机率
Flatten的运作方式很简单，就是将二、三维数据摊平，简化为一维数据(想像将一张20*20的图片拉成长为400的线)。
Flatten的目的是将CNN与DNN做衔接，通过此步骤後，就可以进行DNN了!

Activation Function

(wiki)将数据带入一特定函数中，以改变其值。

简单如---

Relu为例:

Activation Function的目的是将数据做调整，以改变训练时间、结果。

注:本文是搜寻数个网站及各种不同来源之结果,着重在学习,有些内容已难办别出处,我会尽可能列入出处,若有疏忽或出处不可考,请联络我, 我会列入, 尚请见谅。