![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
ML基础
zest_9527
这个作者很懒,什么都没留下…
展开
-
【转】 如何通俗的解释交叉熵与相对熵?
作者:CyberRep链接:https://www.zhihu.com/question/41252833/answer/195901726来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。讨论这个问题需要从香农的信息熵开始。小明在学校玩王者荣耀被发现了,爸爸被叫去开家长会,心里悲屈的很,就想法子惩罚小明。到家后,爸爸跟小明说:既然你犯错了,就要接受惩罚,但惩罚的程度就...转载 2018-03-28 15:47:34 · 265 阅读 · 0 评论 -
为什么感知机使用函数间隔作为损失函数(忽略1/||w||)
几何间隔相对于函数间隔的一个区别就是它不受参数(和)缩放影响,所以在SVM 这种优化目标是点到超平面之间的间隔的模型中,采用的是几何间隔。(如果采用函数间隔,学习过程会不断的产生更大的和,根本停不下来)但是感知机的目标是使误分类的点的个数为0,加不加对的正负判定毫无影响。相对的,采用几何间隔反而会使学习过程复杂化。推导如下:若忽略,参数的更新如下:若不...原创 2019-04-18 16:16:58 · 2078 阅读 · 2 评论