机器学习算法
TOMOCAT
知乎可私信: TOMOCAT
展开
-
[机器学习算法]定序回归
简介传统的线性回归模型预测的因变量取值范围为任意实数,在实际应用中我们常常需要对非连续型数据建模,其中一类的典型的数据即是定序数据ordinal data。一般我们以没有数值意义但是有顺序意义的数据统称为定序数据。最常见的例子就是问卷调查给出的选项:非常满意、满意、一般、不满意、非常不满意就是一类定序数据。定序变量介于连续变量和定类变量之间,是在测量层次上被分为相对次序的不同类别、但并不连续...原创 2020-02-29 02:04:19 · 2474 阅读 · 2 评论 -
[机器学习算法]knn算法和kd树
引言k近邻算法(k-Nearest Neighbor,简称kNN):给定一个训练数据集,对于新的输入实例,在训练数据集中找到与该实例最接近的kkk个实例,通过这kkk个实例投票决定该输入实例的类别。k近邻算法输入: 训练集T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}T={(x1,y1),(x2...原创 2019-06-26 08:59:39 · 669 阅读 · 0 评论 -
[机器学习算法]逻辑回归模型
写在前头线性回归模型可以用于回归模型的学习,当我们需要用线性模型实现分类问题比如二分类问题时,需要用一个单调可微函数将线性回归的连续结果映射到分类回归真实标记的离散值上。推导过程考虑二分类任务,其输出标记:y∈{0,1}y\in\{0,1\}y∈{0,1}但是线性回归模型产生的预测值是实值z,因此我们需要将实值z转化为0/1的离散值,最理想的函数就是“单位阶跃函数”(unit-ste...原创 2019-06-26 09:02:52 · 439 阅读 · 0 评论 -
[机器学习算法]决策树和CART树
决策树综述决策树的工作原理决策树(decision tree)分类法是一种简单但广泛使用的分类技术。以是否贷款违约的二分类问题为例,当我们希望根据给定的训练集习得一个模型对新出现的贷款人进行分类时,经常需要从大量的贷款申请单中识别出来哪些贷款人是劣质的贷款人(容易拖欠贷款)。想象一下客户经理和助手针对一个贷款者进行的如下对话:经理:他有房吗? 助手:没有 经理:他结婚了吗? 助...原创 2019-06-26 11:00:37 · 3579 阅读 · 0 评论