机器学习
isyangwei
经常捡芝麻的人,也就失去了捡西瓜的可能性
展开
-
梯度消失与梯度爆炸过程分析
梯度消失与梯度爆炸过程分析定义百度百科:在神经网络中,前面的隐藏层的学习速率远低于后面隐藏层的学习速率。个人理解:所求得当前隐藏层参数的梯度太小,以至于我们认为几乎消失,导致参数的学习程度基本为零的情况。W1=W1+ΔWΔW=α∂Loss∂wα为学习率W_1=W_1+\Delta{W}\\\Delta{W}=\alpha \frac{\partial{Loss}}{\partial{w}}\\\alpha 为学习率W1=W1+ΔWΔW=α∂w∂Lossα为学习率举例注:浅层网络几乎不会原创 2020-11-19 20:45:21 · 192 阅读 · 0 评论 -
knn(最近邻节点)模型
knn(k最近邻节点)本质:找到与输入值距离最接近的k个节点,并以此为基础作出预测。解决问题分类问题找到最接近的前k个结点。找到占比最大的类,并以此作为预测值输出。例:plinko回归问题找到最接近的k个节点。求出对应k节点对应目标值的平均值,并以此作为函数输出。项目代码项目代码链接思路knn模型对简单分类问题的python简单实现1、获取历史数据(特征值feature,目标值label)2、输入值3、计算输入值与历史数据的距离4、取前k个项,并且将其中出原创 2020-10-12 15:31:31 · 614 阅读 · 0 评论