Day 15 - 神经网络(D)NN 到 卷积神经网络CNN (2)

另一个full connection 例子, 数字辨识:https://www.youtube.com/watch?v=aircAruvnKk

下图28X28之"9"图如何辨识?

左边是输入层28X28=784点，拉成784点，中间有二层各16点之隐藏层(依测试及经验决定点数)，右边则是输出层

将"9" 拆成二部分，"o" 和 "|"，以利辨识

侦测到"o"时却可能是 "9" 或 "8"之上半部

但加上侦测到"|" 时，便可碓定是"9"

再分析 "o" 及"|"，其细部如下

往左一层，如下

所以二层隐藏层如下, 实心点即是sigmoid後,机率较高处

若记得之前提过weight及bias(神经网路)，由784点(输入层)到16点(第一隐藏层)，算出各个点的sigmoid值(机率)如下

即每一点

往右二层16点及10点,共需计算13,002变数

所以正确 weight 及 bias 是关键

DNN能解决的问题

基本上，DNN能解决人工智慧目前所遇到的问题，包括人口分析、资料分析、逻辑推演等。

DNN的缺点/为什麽需要CNN?

看似万能的DNN，其实有一个致命的缺点:
这边以上面的短片为例子:

• 一般的图片都是一个二维或三维的像素分布，要直接使用DNN时，需要先转成一个一维向量，以一张原本像素解析28*28的图片为例，就是直接拉平转成764个元素的向量，而如果神经网路的的第一层隐藏层有1000个神经元，光这一层就会有764000个参数需要运算。
• 而这只是以一张黑白图片为例，如果图片的解析度越高，或是为彩色图片，其参数量将会大量上升。
  也就是说 如果你用DNN，那你就要买记忆体很大的GPU或是租很高级的机台。
• 同时，训练这麽多参数所需的时间和电费也是不可忽视的。
• 这时我们就需要使用CNN啦!
  • CNN的目的是为了将资料简化，并将其特徵明显化。(此处的特徵并不是有几只脚、耳朵形状等那麽简单，而是在电脑眼中的特徵)
  • 而经过CNN处理的数据再送进DNN处理，就可以解省很多时间啦!

注:本文是搜寻数个网站及各种不同来源之结果,着重在学习,有些内容已难办别出处,我会尽可能列入出处,若有疏忽或出处不可考,请联络我, 我会列入, 尚请见谅。