- 博客(7)
- 收藏
- 关注
RSS订阅原创 最小二乘法&梯度下降预测博士顿饭昂家
from sklearn.datasets import load_bostonfrom sklearn.linear_model import LinearRegression,SGDRegressorfrom sklearn.model_selection import train_test_splitfrom sklearn.preprocessing import StandardS...
2019-02-09 08:42:20
171
原创 决策树及随机森林（集成学习方法）预测泰坦尼克号生死
决策树概念决策树是一种基本的分类与回归的方法，模型呈现属性结构，通常包括：特征选择，决策树的生成和决策树的修剪3个步骤。树可以看做是if-then的集合。重点是决策树特征选择，特征的选择准则是信息增益或者信息增益比信息增益的基本概念：表示得知特征X的信息而使得类Y的信息的不确定性减少的程度，通常用熵来表示随机变量不确定的程度。决策树有ID3(信息熵) C4.5(信息增益) CART(基尼...
2019-02-01 22:41:04
1170
原创 朴素贝叶斯预测文章类型
概念朴素贝叶斯是基于贝叶斯定理及特征条件独立假设的分类方法。我们在实际问题中需要得到的后验概率，可以通过先验概率和数据一起综合得到。优点是：实现方法简单，不受数据缺失值的影响，没有超参数，但缺点是：对训练数据集很敏感，而且条件独立的假设很难满足。比较容易理解的公式表达：p(类别|特征) = p(特征|类别)p(类别)/p(特征)案例from sklearn.datasets import ...
2019-01-31 23:31:20
378
原创 机器学习-K近邻(KNN)
K近邻概念如果一个样本在特征空间中的K个最相似的样本中的大多数属于某一个类别，则该样本也属于这个类别。1968年由Cover和Hart提出的一种分类算法，也就是说，相似的样本，特征值都应该相似核心距离的计算，KNN使用欧式距离数据预处理需要做数据的标准化案例预测用户签到位置，数据集下载地址：https://www.kaggle.com/c/facebook-v-predic...
2019-01-31 22:36:06
190
原创 统计学习方法总结
机器学习三要素1.模型：基于统计学习的机器学习首先要考虑的是问题是学习什么样的模型，在监督性学习的过程中，模型就是索要学习的条件概率分布或者决策函数2.策略:有了模型的假设空间，接下来要考虑通过设么样的准则学习或选择最优的模型，这里就要引入损失函数与分显函数的概念。3.损失函数与风险函数：损失函数是度量模型一次学习的好坏，也就是说模型的预测值f(x)与真实值y的差距，通常用L(Y,f(x)...
2019-01-29 22:41:26
87
原创 机器学习入门篇-逻辑回归
概念：逻辑回归看到回归两字，有的人以为是要回归成一个值，但是逻辑回归是处理二分类的经典算法，逻辑回归的边界可以是非线性的。常用在是否为垃圾邮件、是否患病、金融诈骗、是否为虚假账号、广告点击率等问题上，基本的思想与线性回归类似，但损失函数的定义不一样。为何称之为是经典二分类算法，是因为比较其他复杂的算法(神经网络等)，它更简单高效，这也是机器学习处理问题的核心思想：简单高效。所以能用简单的先用简答...
2018-12-04 17:33:40
182
原创 机器学习入门篇-线性回归-最小二乘法(正规方程)
概念：线性回归是为了找到一条合适的线或者面来拟合数据引导过程：假设预测一个人能从银行贷多少款？我们要考虑他的年龄、工作、有无房产等等，这是，每个考虑的因素(特征值)用x代表，考虑的因素的重要性的高低用w表示，则这个人的贷款额度可以的用以下公式表示表达:(PS:w叫权重，对结果有决定性的影响，是计算主要优化的对象。b叫偏置，对结果影响不大，以后计算中经常忽略)(2)对于上面的公式简化表达...
2018-12-04 07:35:09
1794
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人