![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习笔记
文章平均质量分 78
Cecilia-Casper
这个作者很懒,什么都没留下…
展开
-
机器学习笔记一:线性回归
“回归”一词的来历: 原本是用来根据双亲的身高预测其一下代的身高,如果双亲高度高于平均值,其子女身高也倾向于比平均值高,但低于双亲身高。而双亲身高低于平均值的,子女身高倾向于比均值低,但是高于双亲身高。 预测值的两类都倾向于回归到均值,而不是与父母身高相同。Galton在多项研究中都注意到了这个现象。后来用这种方式来寻找一堆测量数据点的数学关系,而不是均值回归,但这种方法仍被称为回归。虽然这个单词原创 2017-07-05 18:33:20 · 441 阅读 · 0 评论 -
深度学习-正则化
常用来防止过拟合的正则方法:L1 L2正则 L2是较常用的正则法,因其公式特性尽可能的考虑到了每一个特征。而L1是绝对值合,结果常常是一个稀疏矩阵。 在NN里,常用正则项 “Frobenius norm”J(w[1],b[1]...w[l],b[l])=1m∑ni=1L(y^(i),y)+λ2m∑ℓℓ=1∥W[ℓ]∥2FJ(w^{[1]},b^{[1]}...w^{[l]},b^{[l]})=\原创 2017-11-02 21:06:03 · 564 阅读 · 0 评论