机器学习笔记
文章平均质量分 93
机器学习笔记
wei22134
停更
展开
-
从频率派和贝叶斯派的角度看线性回归
频率派和贝叶斯派硬币模型频率派和MLE(极大似然估计)贝叶斯派和MAP(最大后验估计)线性回归参数估计频率派贝叶斯派硬币模型对于一个问题,从概率派和贝叶斯派看起来是完全不一样的,其最主要的区别就是对于一个问题中模型参数的认识。假设抛一枚硬币,设硬币朝上的概率为θ\thetaθ频率派认为通过重复试验的统计结果可以估计θ\thetaθ,估计方法为极大似然估计(MLE)贝叶斯派认为θ\thetaθ服从某个分布,这个分布即为先验知识根据贝叶斯公式:而θ\thetaθ与服从的某个分布与样本XXX无关,原创 2021-04-19 13:29:11 · 254 阅读 · 0 评论 -
(自记录)配置libtorch GPU VS2019,添加的lib依赖
torch.libtorch_cuda.libcaffe2_detectron_ops_gpu.libcaffe2_module_test_dynamic.libtorch_cpu.libc10_cuda.libcaffe2_nvrtc.libmkldnn.libc10.libdnnl.liblibprotoc.liblibprotobuf.liblibprotobuf-lite.libfbgemm.libasmjit.libcpuinfo.libclog.lib原创 2020-10-20 22:11:00 · 579 阅读 · 0 评论 -
机器学习个人笔记——(六)神经网络(1)从线性回归到神经网络简单直观分析
神经网络一、线性回归与神经网络单层单个输出多个输出多层二、神经网络原理三、激活函数一、线性回归与神经网络神经网络是一种模拟人脑的神经网络以期能够实现类人工智能的机器学习技术。单层单个输出假设现需要预测房屋的出售价格,房屋通过以下特征,面积(x1x_{1}x1)空气指数(x2x_{2}x2),交通指数(x3x_{3}x3),最终输出价格(yyy)面积(x1x_{1}x1)空气指数(x2x_{2}x2)交通指数(x3x_{3}x3)价格(yyy)1002540原创 2020-08-25 16:35:13 · 1559 阅读 · 1 评论 -
机器学习个人笔记——(五)分类算法4、支持向量机(SVM)
SVMSVM概念最优化寻找最大间隔对偶问题SVM概念SVM是一种有监督学习(已知样本的类别标签)的二分类算法,类似于逻辑回归,均为通过一条直线(超平面)将样本划分为两类。SVM的作用是找到一条最优的直线,将样本更好地划分。将数据集分隔开来的直线成为分隔平面,在二维平面中即为一条直线,若数据集是1024维的,那就需要1023维的对象对数据进行分隔,这个对象称为超平面最优化前提,数据是线性可分如下图两种均为线性不可分图A的数据集为线性可分,且存在无数条直线能将其分为2类,图BCD中的直线原创 2020-08-08 13:42:05 · 601 阅读 · 0 评论 -
机器学习个人笔记——(四)k-means
k-meansk-means概念算法思想k-means概念K-Means算法是无监督的聚类算法 ,也是一个比较简单的聚类算法,效果明显。例如在二维平面上,存在以下点,点的类别未知通过k-means算法,可以得到以下三个簇。使用不同颜色标注出,点集被分为3个类别。算法思想现有样本集X,包含m个样本,每个样本n个特征X=[x11x12...x1nx21x22...x2n............xm1xm2...xmn]\mathbf{X} =\begin{bmatrix} x_{11}原创 2020-07-30 19:50:27 · 745 阅读 · 0 评论 -
机器学习个人笔记——(三)线性回归,最小二乘法和梯度下降
线性回归——最小二乘和梯度下降一、线性回归1.概念2.损失函数二、最小二乘法三、梯度下降法一、线性回归1.概念线性回归,能够用一个直线较为精确地描述数据之间的关系。这样当出现新的数据的时候,就能够预测出一个合理的值如下图,平面中存在200个样本,需找出一条合理的直线对其进行拟合通过线性回归,拟合直线效果如下在上述二维平面中,需要做的就是找出一条最佳拟合直线方程,形式如下:h(x)=w0x0+w1x1(通常x0为1)∴直线表达式为=>h(x)=w0+w1x1\begin{aligne原创 2020-07-24 01:26:44 · 300 阅读 · 0 评论 -
机器学习个人笔记——(二)Logistic回归
分类算法——Logistic回归一、Logistic回归概念1. 主要思想2. 一般式:二、原理1. Sigmoid 函数2.构建似然函数3.梯度上升4. 随机梯度上升三、代码实现一、Logistic回归概念1. 主要思想回归 : 用一条直线对这些点进行拟合(该线称为最佳拟合直线),这个拟合过程就称作回归。逻辑回归: 是一种适用于二分类(非0即1)的分类算法根据现有数据对分类边界线建立回归公式,以此进行分类。目标:找到最佳拟合参数集例如:下图所示,在一个平面中存在2个类别的数据,红色为:1原创 2020-07-13 21:24:01 · 313 阅读 · 0 评论 -
机器学习个人笔记——(一)k近邻算法
1. 监督学习和无监督学学习机器学习:用一些训练数据,使机器能够利用它们分析和预测未知数据,机器学习中分有监督学习和无监督学习。监督学习:根据已有的数据集,知道输入和输出结果之间的关系,从已有的训练数据集中学习出一个函数(模型参数),当新数据到来时,可以根据这个函数去预测结果。监督学习最常见的就是:回归和分类。回归:想要预测房屋卖出的价格,给出一定数量的房屋数据集,包括房屋的面积等参数,且已知这些房屋的价格,通过训练数据集,得到面积等因素和价格之间的函数关系,当输入一个新的房屋面积等参数时,可输原创 2020-07-08 20:59:04 · 1729 阅读 · 1 评论