Day 3 - 类神经网路(一)

谈到机器学习, 一定会谈到神经元(英语:neuron)

神经元(neuron)

  • 又名神经原或神经细胞,是神经系统的结构与功能单位之一。神经元能感知环境的变化,再将信息传递给其他的神经元,并指令集体做出反应。神经元占了神经系统约10%,其他大部分由胶状细胞所构成。基本构造由树突、轴突、髓鞘、细胞核组成。传递形成电流,在其尾端为受体,藉由化学物质(化学递质)传导(多巴胺、乙醯胆硷),在适当的量传递後在两个突触间形成电流传导。
  • 人脑中,神经细胞约有860亿个。其中约有700亿个为小脑颗粒细胞(cerebellar granule cell)(https://zh.wikipedia.org/wiki/%E7%A5%9E%E7%B6%93%E5%85%83)

https://ithelp.ithome.com.tw/upload/images/20201127/20130601pNkzpoFWhS.png

  • 如果将树突视为输入(Input), 轴突视为输出(Output),应该比较容易理解。神经元将来自树突输入的电子讯号(请参考,爱放电的神经细胞| 国家实验研究院),与表示是否超过神经细胞内电位的阈值(Threshold,门槛值)进行比较,若超过该闽值,则此神经细胞便达到兴奋状态,从轴突输出电子讯号(动作电位- 维基百科)。

https://ithelp.ithome.com.tw/upload/images/20201127/20130601lUnU8PGbtT.png

MCP :形式神经元

  • 1个神经元会从n个神经元获得输入x,将这些输入值乘上系数wi後进行加总,当结果µ超过阈值h,表示达到触发状态。这时,在人工神经网路里最简单的模型,也就 是麦卡洛克与皮茨(Macculloch&Pitts,1943)抽象的人工神经元模型MCP[i](MCP是作者的缩写)当中,若µ超过阈值h则 输出z为1,反之则为0.
  • 沃伦·麦卡洛克和沃尔特·皮茨(1943)基於数学和一种称为阈值逻辑的演算法创造了一种神经网路的计算模型。这种模型使得神经网路的研究分裂为两种不同研究思路。一种主要关注大脑中的生物学过程,另一种主要关注神经网路在人工智慧里的应用。
  • Warren McCulloch and Walter Pitts (1943) opened the subject by creating a computational model for neural networks.
    (https://en.wikipedia.org/wiki/Artificial_neural_network)

https://ithelp.ithome.com.tw/upload/images/20201127/20130601UkAyQTgyry.png

  • 不过,MCP模型中的权值都是预先设置的并不能进行学习。直到1949年心理学家Hebb提出了着名的Hebb定律(Hebb‘s rule),认为人脑神经细胞的突触(神经元之间连接的位置)上的强度是可以变化的,计算科学家们才开始考虑用调整权值的方法来让机器学习。
  • 赫布理论描述了突触可塑性的基本原理,即突触前神经元向突触後神经元的持续重复的刺激,可以导致突触传递效能的增加。这一理论由唐纳德·赫布於1949年提出,又被称为赫布定律(Hebb's rule)、赫布假说(Hebb's postulate)、细胞结集理论(cell assembly theory)等
    改变权值即是让机器学习,以提高预测准确度。
注:本文是搜寻数个网站及各种不同来源之结果,着重在学习,有些内容已难办别出处,我会尽可能列入出处,若有疏忽或出处不可考,请联络我, 我会列入, 尚请见谅。

<<:  前端工程学习日记第22天

>>:  TCB存取控制

[Day 4]餐前浓汤-Vagrant环境设定及BeautifulSoup安装

昨天我们介绍了Python跟Vagrant这两个东东是干啥的 以及这两个东东如何安装 今天我们会把剩...

[Tableau Public] day 7:尝试制作不同种类的报表-4

第七天,想不到我坚持了一星期~继续加油! 参考的资料来源一样是 day 4 的「Our World ...

Day3 参加职训(机器学习与资料分析工程师培训班),记录学习内容(6/30-8/20)

人工智慧与机器学习概论 上午教导线性回归,老师先说明机器学习主要使用3类模型: *Linear Mo...

【D17】制作讯号灯#2:三大法人期货留仓与大盘的关系

前言 初步推算出大盘与台积电有很大的正相关,然後看看资金雄厚,影响市场非常大的三大法人,哪些东西可以...

Day12-TypeScript(TS)的选择性属性(Optional Properties)

今天要来讲解TypeScript(TS)的选择性属性(Optional Properties), 在...