![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 92
一只不出息的程序员
致力于构建人类美好生活的程序员
展开
-
交叉熵损失函数
交叉熵损失函数交叉熵简介信息熵相对熵(KL散度)交叉熵 交叉熵简介 交叉熵是信息论中的一个重要概念,主要用于度量两个概率分布间的差异性,要理解交叉熵,需要先了解下面几个概念。 信息量 信息奠基人香农(Shannon)认为“信息是用来消除随机不确定性的东西”,也就是说衡量信息量的大小就是看这个信息消除不确定性的程度。 设某一事件发生的概率为P(x),其信息量表示为: I(x)=−log(P(x))I ( x ) = − log ( P ( x ) )I(x)=−log(P(x)) 其中I(x)I (原创 2021-04-03 19:04:46 · 299 阅读 · 0 评论 -
神经网络的BP算法推导详解
神经网络的BP算法推导详解一.BP算法的提出及其算法思想二.BP算法三.前馈计算的过程四.反向传播的计算 一.BP算法的提出及其算法思想 神经网络主要是由三个部分组成的,分别是:1) 网络架构 2) 激活函数 3) 找出最优权重值的参数学习算法. BP(back propagation)神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念,是一种按照误差逆向传播算法训练的多层前馈神经网络。 既然我们无法直接得到隐层的权值,能否先通过输出层得到输出结果和期望输出的误差来间接调原创 2021-04-03 18:57:19 · 4177 阅读 · 0 评论 -
KdTree------一种递归的邻近搜索策略
KdTreeKdTree简介KdTree密度聚类算法KdTree密度的聚类算法及优化 KdTree简介 在BSTree中,节点分割的是一维数轴,那么在二维中,节点分割为平面了,就像这样: 黄色的点作为根节点,上面的点归左子树,下面的点归右子树,接下来再不断地划分,最后得到一棵树就是的BSPTree(binary space partitioning tree). 分割的那条线叫做分割超平面(splitting hyperplane),在一维中是一个点,二维中是线,三维的是面。 KDTree就是超平面都垂直原创 2020-05-10 01:43:03 · 1258 阅读 · 0 评论