- 博客(3)
- 收藏
- 关注
RSS订阅原创 机器学习算法——逻辑回归
一 逻辑回归模型 线性回归虽然简单，却有丰富的变化。其形式如下（为书写方便，偏置写进权重向量）：y=wTxy=wTxy=\mathbf{w^Tx}考虑单调可微函数ggg,令g(y)=wTxg(y)=wTxg(y)=\mathbf{w^Tx},在形式上仍然是线性回归，但实质上是在求取输入空间到输出空间的非线性函数映射，其中y=g−1(wTx)y=g−1(wTx)y=g^{-1}(\mathbf{w...
2018-08-19 14:43:44
251
原创 需要注意的问题
决策树ID3和C4.5的差别？各自优点？ Boost算法 CART（回归树用平方误差最小化准则，分类树用基尼指数最小化准则） GBDT与随机森林算法的原理以及区别。 优化算法中常遇到的KKT条件？作用是？ 最近邻算法KNN（分类与回归） L1和L2函数？L1和L2正则项的比较，如何解决 L1 求导困难？ L1正则为何可把系数压缩成0，说明坐标下降法的具体实现细节 LR为什么用sig...
2018-08-19 12:38:31
313
原创 机器学习算法理论与代码实现——线性回归
一 线性模型给定由d个属性描述的列向量x=(x(1);x(2);...;x(d))x=(x(1);x(2);...;x(d))\textbf{x}={(x^{(1)};x^{(2)};...;x^{(d)})}，其中 x(j)x(j)x^{(j)}是xx\textbf{x}在第jjj个属性的取值。线性模型即为通过对属性进行线性组合的函数，即 f(x)=w0+w1x(1)+...+wdx(d)...
2018-08-18 21:45:43
164
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人