DNN (分类器)

https://www.youtube.com/watch?v=diCzrBXLxL0&list=PLXSkku8eiD-iFRBr11rV83579hing3gMU&index=29

今日学习目标

• 深度神经网路 DNN
  • 揭开神秘的黑盒子
• 六步骤建立深度学习模型
  • 如何选择隐藏层、激发函数、损失函数以及优化器
• 实作 DNN 分类器
  • 使用DNN训练一个手写数字辨识分类器

六步骤建立深度学习模型

1. 决定隐藏层 (hidden layers) 的深度 (层数) 和宽度 (神经元数)
2. 决定每层使用的激发函数 (activation function)
3. 决定模型的损失函数 (loss function)
4. 决定优化器 (optimizer)，及超参数
5. 编译模型 (compile model)
6. 开始训练 (fit model)

如何选择 Loss function?

• 分类问题 (Classification)
  • cross-entropy
  • 搭配 softmax 作为输出层的激发函数
• 回归问题 (Regression)
  • mean squared error (MSE)
  • mean absolute error (MAE)
  • 搭配线性函数作为输出层的激发函数

本系列教学简报 PDF & Code 都可以从我的 GitHub 取得！