损失函数的演进--1

人脸辨识技术在Deepface出现後,就开始使用Deep learning来进行人脸辨识,在使用各种模型进行训练时,使用的Loss function也在依照训练的需求持续进化中,在人脸系统的辨识阶段,通常是使用撷取出来的特徵值,使用欧式距离来判断侦测的人是否与资料库中的哪一人相似度最高,并设定一个门槛值来决定侦测的人侦的为资料库中的那一人。

https://ithelp.ithome.com.tw/upload/images/20210926/20142039kAsmW9G6Kn.png

以时间顺序来介绍

在2014年出现的Softmax 在分类问题当中,该样本预测为每一种类别的机率是多少,假设讨论一个有五种类别的分类问题,预测的类别有苹果、香蕉、芒果、草莓、奇异果,若预测水果为香蕉,经过Softmax出来的结果会是[0.1 0.6 0.05 0.15 0.2],因为是机率所以所有的机率加总为1,Softmax loss表示的是香蕉这个是出现在第几个类别,所以呈现的结果是[0 1 0 0 0]。

Softmax的缺点
虽然在运算时会将不同类别的特徵分开,但特徵分题很多时Loss会很小,所以收敛梯度无法下降,有可能发生辨识错误人的机率,就不太适合用在执行人脸辨识上。


<<:  控制反转与依赖注入(一)

>>:  工作的意义与价值

Day3:String Formatting 字串格式化

字串格式化有几种方法 字串 功用 %% 在字串 中显示% %d 以10 进位整数方式输出 %f 将浮...

Rust-流程控制-for

如果想印出1到100的数字,更常的做法是使用for回圈而不是while 例 for i in 1.....

NoSQL Transaction

在传统SQL有交易(Transaction)功能, 这次实作NoSQL类似的功能. 由於在Parti...

30天轻松学会unity自制游戏-设定画面按钮

现在死亡後有了两个选项,一个重新开始游戏,一个是回到标题,目前只有一个场景,所以第一步快速制作一个开...

Chapter1-DJ最爱的音频动感图像(IV)让音乐动起来!开篇基础设定和动画框架

话不多说先上图 从左到右依序执行,最後该函式会再呼叫自己一次,图中淡化的区块是下个章节的主题 然後把...