LittleStudent12的博客

本文转载自：http://freemind.pluskid.org/machine-learning/softmax-vs-softmax-loss-numerical-stability/ ，看完这个博客让我对softmax，softmax-loss以及BP算法有了更深的理解，以前BP只是知道链式求导，知道梯度回传，但是具体到哪些变量和哪些变量求导就有些模糊了，现...

【论文理解】ArcFace: Additive Angular Margin Loss for Deep Face Recognition（InsightFace）论文地址：https://arxiv.org/abs/1801.07698github：https://github.com/deepinsight/insightface 这篇论文基本介绍了近期较为流行的人脸识别模型，lo...

深度学习新的采样方式和损失函数--论文笔记论文《Sampling matters in deep embedding learning》论文地址：https://arxiv.org/pdf/1706.07567.pdf 该论文为2017年6月上传至arxiv。主要研究的是深度嵌入学习（deep embedding learning）中的采样问题和损失函数的问题。作者分析了contrasti...

[论文笔记] 损失函数整理损失函数集合损失函数对于机器学习，就像一把尺子，用来度量模型，指导模型训练用，因此损失函数的设计和模型结构设计一样重要。损失函数用来评价预测值和真实值间的关系，好像大多数关于loss的论文都出在人脸辨识和细粒度分类领域。Contrastive Loss对比损失函数，来自Yann LeCun的论文Dimensionality Reduction by Learning an...

深度学习中的损失函数总结已经Center Loss函数笔记图片分类里的Center Loss目标函数,损失函数,代价函数损失函数度量的是预测值与真实值之间的差异.损失函数通常写做L(y,y).y代表了预测值,y代表了真实值.目标函数可以看做是优化目标,优化模型的最后目标就是使得这个目标函数最大或者最小.代价函数类似于目标函数.区别:目标函数(代价函数)可以包含一些约束条件如正则化项.一般不做严格区...

损失函数改进之Large-Margin Softmax Loss 最近几年网络效果的提升除了改变网络结构外，还有一群人在研究损失层的改进，这篇博文要介绍的就是较为新颖的Large-Margin softmax loss（L-softmax loss）。Large-Margin softmax loss来自ICML2016的论文：Large-Margin Softmax...

Softmax 函数的特点和作用是什么

损失函数改进之Center Loss 最近几年网络效果的提升除了改变网络结构外，还有一群人在研究损失层的改进，这篇博文要介绍的就是较为新颖的center loss。center loss来自ECCV2016的一篇论文：A Discriminative Feature Learning Approach for Deep Face Recognition。 论文链接：h...

SphereFace算法详解 论文：SphereFace: Deep Hypersphere Embedding for Face Recognition 论文链接：https://arxiv.org/abs/1704.08063 代码地址：https://github.com/wy1iu/sphereface这篇是CVPR2017的文章，用改进的softmax做人脸...

人脸识别系列（十六）：AMSoftmax论文链接：Additive Margin Softmax for Face VerificationAMSoftmaxSoftmaxASoftmax这是在SphereFace中提出来的损失函数 AMSoftmax 这就是本文新提出的损失函数了。其变化就在于修改了Cos(mθ)为一个新函数： 与ASoftmax中定的的类似，可以...