机器学习
想去的远方
做一个自由又自律的人,靠势必实现的决心认真地活着!
展开
-
(西瓜书)多元线性回归公式推导
目录一、线性回归概述:二、数学知识储备:三、证明损失函数是关于 的凸函数 :四、求解 :一、线性回归概述:上文 :https://blog.csdn.net/qq_42185999/article/details/102941535 中我们推导了线性回归中最简单的情形:即输入属性的目只有一个。下面我们来推导更一般的情形:即样本由 d 个属性描述。...原创 2019-11-10 11:33:47 · 3383 阅读 · 1 评论 -
(西瓜书)简单线性回归公式推导
目录一、线性回归概述:二、数学知识储备:三、证明损失函数是关于 w 和 b 的凸函数 :四、求解 b :五、求解 w:一、线性回归概述:给定数据集 , 其中,,线性回归试图学得:,使得 .回归任务中常使用均方误差来衡量 f(x) 与 y 之间的差别。使均方误差最小化得到的 w, b 即我们所求。(基于均方误差来进行模型...原创 2019-11-09 21:01:12 · 1692 阅读 · 1 评论 -
机器学习之线性回归
我们有一个数据集,其中包含有关“学习小时数”与“获得的分数”之间关系的信息。已经观察到许多学生,并记录他们的学习时间和成绩。这将是我们的训练数据。目标是设计一个模型,给定学习时间,可以预测成绩。使用训练数据,获得将会给出最小误差的回归线。然后这个线性方程可以用于任何新的数据。也就是说,如果我们将学习时间作为输入,我们的模型应该以最小误差预测它们的分数。Y(pred)= alpha + b...原创 2019-10-31 23:22:18 · 312 阅读 · 1 评论 -
机器学习之 kd 树
参考自:https://mp.weixin.qq.com/s?__biz=MzI4MDYzNzg4Mw==&mid=2247483793&idx=1&sn=d42f4f06225cd1f792912dfecdc800ea&chksm=ebb43945dcc3b0538ba10187c999a050137b96a05f402b9fe99f0a972d7ba0bce50...原创 2019-10-31 23:18:37 · 1255 阅读 · 1 评论 -
机器学习之K近邻法(KNN)
目录一、基本概念:二、距离的计算方式:三、k的选取:四、特征归一化:五、交叉验证:一、基本概念:k近邻算法是一种基本分类和回归方法。这里只讨论分类问题的k近邻法。k近邻算法,即是给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的k个实例,这k个实例的多数属于某个类,就把该输入实例分类到这个类中。“近朱者赤,近墨者黑”可以说是 KNN 的工作原...原创 2019-10-31 19:43:17 · 1991 阅读 · 0 评论 -
机器学习之感知机
感知机是二类分类的线性分类模型,属于监督学习算法。输入为实例的特征向量,输出为实例的类别(取+1和-1)。感知机对应于输入空间中将实例划分为两类的分离超平面。感知机预测是用学习得到的感知机模型对新的实例进行预测的,因此属于判别模型。 !:感知机的应用要求数据集为线性可分的。数据集的线性可分性:定义:给定一个数据集 T = {(x1,y1),(x2,y2),(x...原创 2019-10-29 21:46:18 · 447 阅读 · 0 评论 -
统计学习方法概论
统计学习也称为统计机器学习。统计学习包括:监督学习,非监督学习,半监督学习,强化学习等。 在监督学习中:输入空间: 输入所有可能取值的集合。输出空间: 输出所有可能取值的集合。特征空间: 所有特征向量存在的空间。样本(样本点): 输入与输出又称样本或样本点。回归问题: 输入变量与输出变量均为连续变量的预测问题称为回归问题。分类问题: 输出变量为有限个离散...原创 2019-01-16 09:48:28 · 144 阅读 · 0 评论 -
机器学习的数学基础-(一、高等数学)
本文分为高等数学、线性代数、概率论与数理统计三部分,所有公式为考研和考博时候使用的参考书所记录,部分来源于网络。机器学习的数学基础-(一、高等数学) - 黄海广的文章 - 知乎https://zhuanlan.zhihu.com/p/36311622...转载 2019-09-08 20:17:21 · 328 阅读 · 0 评论