- 博客(6)
- 收藏
- 关注
RSS订阅原创 拉格朗日乘子法与KKT条件解决优化问题
SVM支持向量机是目前非常好用的一种分类算法，但是其中的原理推导涉及了一些数学知识：例如其中在处理我们构建得到的数学模型时，最优化问题中就使用到了拉格朗日乘子法与KKT条件。 通常需要解决的优化问题有三类： 1.无约束的优化问题 min f(x) 求取f(x)的导数使其为零，求解出候选值，在其中验证选择出最优值，就是高中常用的方法。 ...
2018-10-25 20:45:40
883
原创 KMP算法
KMP算法是解决字符串匹配问题的经典算法，相比较于二重循环暴力破解法，KMP匹配算法的效率大大提高。 暴力破解法的第一重循环是主串的i指针遍历主串的所有位置作为基点的情况，第二重循环是模式串的j指针与i指针依次比较各自指向的元素是否相等，如果不相等则i指针回溯到新的基点开始与j重新比较。直到主串剩余元素个数小于模式串长度还没有找的，则说明无法完成匹配。 明显暴力法会做出许多浪费的操作，KMP算...
2018-10-23 19:39:26
125
原创 sklearn-最小二乘线性回归
sklearn是机器学习中的一个常用的python第三方模块，里面对机器学习的许多方法进行了封装，在进行机器学习的任务时，许多常用的算法可在这个模块中直接调用。并且sklearn中还提供了许多可用于分类、回归的优质数据集。使用好sklearn最直接的方法就是仔细阅读官方http://scikitlearn.org/stable/index.html sklearn就像是一个模板库，是许多机器学习...
2018-10-22 08:50:54
4002
原创 《机器学习实战》使用ID3算法构造决策树
决策树是一个基本回归和分类的算法 决策树的优点： 1.易于理解和解释，并且可以可视化。 2.几乎不需要数据预处理。决策树还不支持缺失值。 3.可以同时处理数值变量和分类变量。其他方法大都适用于分析一种变量的集合。 4.可以处理多值输出变量问题。 决策树的缺点： 决策树学习可能创建一个过于复杂的树，也就是过拟合(overfitting)但是我们可以通过修剪决策树，合并相邻的无法产生大量信息增益...
2018-10-18 19:45:01
3618
1
原创 《机器学习实战》K近邻算法
最近刚学完《机器学习实战》的K近邻算法，自己在Anaconda的JupyterNotebook环境下进行了代码实现和数据集的运行与测试。 具体内容博士的博客写得非常详细，很值得深入学习了，该博客链接：http://blog.csdn.net/c406495762 最近知道了KNN算法不仅可以用来分类，还可以进行回归的实现，原理是：通过找出一个样本最近的K个邻居，将这些邻居的特征值的平均值赋...
2018-10-14 22:35:20
168
原创 《机器学习实战》逻辑回归算法简单Python实现
Logistic回归 假设有一些数据点，对这些数据点用一条直线进行拟合，这个拟合的过程称为回归。 使用逻辑回归进行二分类的思想是：根据现有的数据对分类边界线建立回归公式依此进行分类！ 原理公式——求最佳的特征参数θ 分类可知真实值只有两个取值0和1，那么需要将计算得到的函数值转换为在0—1之间的数值，于是用了Sigmoid函数： g(z)=1/(1+e^-z) 将参数换成一个线性回归公...
2018-10-11 21:57:27
1031
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人