![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
逆游的鲤鱼
鲤鱼经过99.99%的尝试才能换来最后一次精彩跳跃。
展开
-
学习笔记之支持向量机
一、数学原理支撑向量机,SVM(Support Vector Machine),其实就是一个线性分类器。1、定义及思想2、决策边界3、数学推导第一步:给出表达式。第二步:求导。第三步:转换对偶问题。第四步:求a。第五步:求ω。第六步:求b。二、核函数三、应用...原创 2020-05-03 21:48:07 · 194 阅读 · 0 评论 -
学习笔记之PCA
一、主成分分析1、定义PCA(Principal Component Analysis),即主成分分析方法,是一种使用最广泛的数据降维算法。主成分分析在减少需要分析的指标同时,尽量减少原指标包含信息的损失,以达到对所收集数据进行全面分析的目的。由于各变量之间存在一定的相关关系,因此可以考虑将关系紧密的变量变成尽可能少的新变量,使这些新变量是两两不相关的,那么就可以用较少的综合指标分别代表存在...原创 2020-04-26 16:22:15 · 238 阅读 · 0 评论 -
学习笔记之决策树
决策树是一种常见的机器学习算法,它的思想十分朴素,类似于我们平时利用选择做决策的过程。它是类似流程图的结构,其中每个内部节点表示一个测试功能,即类似做出决策的过程(动作),每个叶节点都表示一个类标签,即在计算所有特征之后做出的决定(结果)。标签和分支表示导致这些类标签的功能的连接。从根到叶的路径表示分类规则,完全通过生成决策规则来解决分类和回归问题。(因最近工作忙,具体内容后续逐步编写)一、数...原创 2020-04-18 22:03:49 · 127 阅读 · 0 评论 -
学习笔记之逻辑回归
引言:今天我们学习逻辑回归。我们都知道线性回归模型是y=wTX+by=w^TX+by=wTX+b,我们对他进行变形,得到lny=wTX+blny=w^TX+blny=wTX+b,这就是“对数线性回归”(logit linear regression),就是我们所说的逻辑回归。再变形y=ewTX+by=e^{w^TX+b}y=ewTX+b,一般地,把y=f(wTX+b)y=f(w^TX+b)y=f...原创 2020-04-12 20:43:18 · 209 阅读 · 0 评论 -
学习笔记之模型正则化
我们前面提到过,降低方差的方法有模型正则化,此方法也是最重要提供模型泛化能力方法。我们今天了解L1和L2两种正则化方法。用到正则化的算法有Lasso回归、岭回归、支持向量机等。一、模型正则化概念模型正则化(Regularization),对学习算法的修改,限制参数的大小,减少泛化误差而不是训练误差。在使用比较复杂的模型,去拟合数据时,很容易出现过拟合现象(训练集表现很好,测试集表现较差),这...原创 2020-04-04 20:22:07 · 3152 阅读 · 0 评论 -
学习笔记之梯度下降算法
梯度下降(Gradient Descent, GD)是目前机器学习、深度学习解决最优化问题的算法中,最核心、应用最广的方法。它不是一个机器学习算法,而是一种基于搜索的最优化方法。其作用是用来对原始模型的损失函数进行优化,以便寻找到最优的参数,使得损失函数的值最小。也就是,用已知训练集数据寻找最优得参数,从而找到最优得拟合模型。哪什么是梯度下降呢?一、概念梯度是向量,和参数维度一样。简单地来说,...原创 2020-03-29 14:41:31 · 321 阅读 · 0 评论 -
学习笔记之线性回归
参考文章:1、https://mp.weixin.qq.com/s/ESKQKi_1K_WPXNistizDVw2、[https://mp.weixin.qq.com/s/siFRKWLhGOGJCCMjzB7R7A(https://mp.weixin.qq.com/s/siFRKWLhGOGJCCMjzB7R7A)3、https://mp.weixin.qq.com/s/gJU4oJufOF...原创 2020-03-20 22:40:33 · 355 阅读 · 0 评论 -
数据预处理
归一化处理原创 2020-03-15 11:43:34 · 506 阅读 · 0 评论 -
线性回归评价指标
本文参考饼干Japson《模型之母:线性回归的评价指标》编写今天,我们学习线性回归算法的评价指标——MSE、RMSE、MAE、R Square。一、了解线性回归算法的衡量标准引用饼干Japson的话。已知训练数据样本x、y,找到a和b的值,使∑i=1n(y(i)−ax(i)−b)2\sum_{i=1}^{n} (y^{(i)}-ax^{(i)}-b)^2∑i=1n(y(i)−ax(i)−b...原创 2020-03-08 00:02:45 · 2566 阅读 · 0 评论 -
机器学习算法总结
Sklearn算法实现代码总结一、k-NN1、基本算法原理2、算法实现步骤二、决策树三、朴素贝叶斯四、线性回归五、岭回归六、Lasso七、逻辑回归八、K-Means九、DBSCAN十、PCA十一、随机森林分类器十二、随机森林回归器十三、AdaBoost分类器十四、AdaBoost回归器十五、SVM十六、基于用户的协同过滤十七、基于物品的协同过滤长达一个月的机器学习暂时告一段落,葵锅我把每天积累的...原创 2019-12-05 22:14:19 · 181 阅读 · 0 评论 -
评分卡项目总结
分析思路原创 2019-10-05 00:40:44 · 9488 阅读 · 1 评论 -
基于聚类的个性化推荐电商案例分析总结
List item原创 2019-09-25 00:55:36 · 11528 阅读 · 3 评论 -
sklearn.metrics.roc_curve使用简要说明
sklearn.metrics.roc_curve使用简要说明背景说明TP、TN、FP、FN概念TPR、TNR、FPR、FNR概念功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的...原创 2019-09-25 00:52:08 · 18315 阅读 · 7 评论