2018年11月_Tonywu2018

原创 kNN(k近邻法)

最近看了一些关于kNN(k近邻算法)的资料，本篇文章就当做一篇学习笔记来记录下我对kNN算法的理解。目录1、kNN算法的概念2、距离度量2.1 欧氏距离2.2 余弦距离2.3 曼哈顿距离2.4 汉明距离2.5 标准化的欧氏距离2.6 马氏距离3、k值的选择4、k-d树4.1 k-d树的建立4.2 k-d树上的最邻近搜索5、kNN的优缺点及改...

2018-11-22 14:59:48 8569

原创 python中的IO编程

开通博客写的第一篇文章就是关于python的，今天这篇文章是关于IO编程操作的，IO的内容也不少，以后想到什么会继续补充。目录1、文件的使用1.1、文件的类型1.2 文件的打开和关闭1.3文件的读写1.3.1文件的读取方法：1.3.2文件的写入方法2、数据组织的维度2.1、一维数据的处理2.2、二维数据的处理参考文献：1、文件的使用文件是存储在辅...

2018-11-17 17:56:48 1090

转载最小二乘法（Least square method）

最小二乘法是在线性回归模型最小化均方误差时使用，其实就是对误差函数求导数，然后让其等于0 ，然后解出使得误差最小。本篇文章讲解最小二乘法。首先声明，此篇的内容是来自"马同学高等数学"微信公众号的内容。目录1、日用而不知2、最小二乘法3、推广4、最小二乘法与正态分布参考文献：1、日用而不知来看一个生活中的例子。比如说，有五把尺子： ...

2018-11-11 22:26:27 16876

转载协方差(covariance)和相关系数(correlation coefficient)

相关系数和协方差实际上是相同的概念，都是用来描述两个随机变量之间的相似程度的。这篇文章将详细说明协方差和相关系数的相关知识。首先声明，此篇的内容是来自"马同学高等数学"微信公众号的内容。1、事物之间的关系事物之间有两种关系，有关系和没关系。1.1 、有关系据专家表示，要买房的人越多（下图的城镇化率可以简单理解为进城买房的人数），房价就越高（数据来源）： ...

2018-11-11 15:55:02 19814 3

转载置信区间(confidence interval)

上一篇关于假设检验和P值的文章最后提到了置信区间，本篇文章对置信区间的相关知识进行说明。所谓的置信区间，顾名思义，它实际上就是一种区间估计，首先来看看什么是点估计，什么是区间估计。首先声明，此篇的内容是来自"马同学高等数学"微信公众号的内容。1、点估计与区间估计以前很流行一种刮刮卡：游戏...

2018-11-09 19:48:36 10914

转载假设检验(hypothesis testing)及P值(p-value)

前一篇t检验的文末提到了P值的概念，P值实际上是医学统计中很常用的一个概念，那么这篇文章继续讲解什么是P值。说到P值，就得先从假设检验说起。首先声明，此篇的内容是来自"马同学高等数学"微信公众号的内容。目录1、什么是假设检验2、P值2.1 为什么要把更极端的情况加起来？3、显著水平4、与置信区间的关系参考文献：1、什么是假设检验抛硬币是概率统计...

2018-11-09 19:05:40 13323

统计学在科学研究中占有很重要的地位，机器学习中的很多内容也都是以统计学作为基础的，为了更好的理解一些看起来虚无缥缈的统计学概念，我也查阅了很多资料，但是大多数讲的并不那么通俗易懂，直到看到了“马同学高等数学”对概率统计的概念的描述，感觉非常通俗易懂。为了方便以后复习查看有关统计学的概念，将马同学的讲解的内容在这里弄成了一个统计学概念专题。首先声明，此篇的内容是来自"马同学高等数学"微信公众号的...

2018-11-09 18:16:00 17877 5

原创梯度(Gradient)

梯度是机器学习领域中一个非常常用且重要的一个数学概念，但是一直不是特别理解深层含义，于是查阅资料，对梯度进行一个总结说明。我们在高数中都学过梯度的定义：设函数在平面区域D内具有一阶连续偏导数，则对每一点都可以定出一个向量称为在P点处的梯度，记作。从定义中我们可以得到以下信息：1、梯度是矢量 2、梯度的模与函数在点处的偏导数有关。不难想象，函数在几何空间中实际上对应的是三维空...

2018-11-08 19:18:35 15696 2

Tonywu2018的博客