人脸辨识-day19 加快训练的模型

人脸辨识想要达到准确度高、辨识速度也要快，在大多的模型都利用较深的层数来强化模型的准确度，在2017年所出现的MobileNet模型是利用depthwise separable convolution来化简参数个数，来达到减少原始convolution的计算量，在不降低太多原本利用卷积层的效果。

举例说明：Input (16,16,16) output(16,16,64) kernel size(3,3)

Original convolution
= K x K x Nch x M x W_in x H_in
= 3 x 3 x 16 x 64 x 16 x 16 = 2359296

Depthwise separable convolution
= K x K x Nch x W_in x H_in+ Nch x M x W_in x H_in
= 3 x 3 x 16 x 16 x 16 + 16 x 64 x 16 x 16
= 36864 + 262144 = 299008

这样参数量从原先的2359296降低到299008

比例为299008/2359296=0.126

在Pointwise convolution为何1 x 1 x Nch是使用1呢？
因为在每一个Feature map与其他Feature map的关联性要有所连接，乘1的话所有的Feature map关联性较容易进行组合生成新的Feature map。