![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 78
去日行藏同踏雪
这个作者很懒,什么都没留下…
展开
-
机器学习算法理论与代码实现——线性回归
一 线性模型 给定由d个属性描述的列向量x=(x(1);x(2);...;x(d))x=(x(1);x(2);...;x(d))\textbf{x}={(x^{(1)};x^{(2)};...;x^{(d)})},其中 x(j)x(j)x^{(j)}是xx\textbf{x}在第jjj个属性的取值。线性模型即为通过对属性进行线性组合的函数,即 f(x)=w0+w1x(1)+...+wdx(d)...原创 2018-08-18 21:45:43 · 165 阅读 · 0 评论 -
需要注意的问题
决策树ID3和C4.5的差别?各自优点? Boost算法 CART(回归树用平方误差最小化准则,分类树用基尼指数最小化准则) GBDT与随机森林算法的原理以及区别。 优化算法中常遇到的KKT条件?作用是? 最近邻算法KNN(分类与回归) L1和L2函数?L1和L2正则项的比较,如何解决 L1 求导困难? L1正则为何可把系数压缩成0,说明坐标下降法的具体实现细节 LR为什么用sig...原创 2018-08-19 12:38:31 · 313 阅读 · 0 评论 -
机器学习算法——逻辑回归
一 逻辑回归模型 线性回归虽然简单,却有丰富的变化。其形式如下(为书写方便,偏置写进权重向量):y=wTxy=wTxy=\mathbf{w^Tx}考虑单调可微函数ggg,令g(y)=wTxg(y)=wTxg(y)=\mathbf{w^Tx},在形式上仍然是线性回归,但实质上是在求取输入空间到输出空间的非线性函数映射,其中y=g−1(wTx)y=g−1(wTx)y=g^{-1}(\mathbf{w...原创 2018-08-19 14:43:44 · 251 阅读 · 0 评论