![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Machine Learing
爱折腾的猫
爱编程,爱折腾,爱生活~
展开
-
机器学习随记
1. 在绝大多数情况下,数据之所以长成某个样子是因为它有特定的生成原理(比如所有长得像猫的图片和长得像狗的图片在高维空间中的分布总的来说是分开的,而各自成团),否则数据就是个噪声,没有任何学习的意义。图模型就是其中的一种,它好使的一部分原因在于可以借鉴已有的图论结论,还有一部分是因为比较能够接近人类思维推理过程,同时比较直观。2.在模型选择中,模型其实是一个概率分布,一般用estima原创 2014-11-23 20:25:00 · 4344 阅读 · 0 评论 -
数据挖掘之相似性度量
机器学习或数据挖掘,就是在数据中寻求答案的算法。而寻求的答案就是训练完成的数据模型。大部分的数据建模方法都属于这两种:1) 数据汇总,对数据进行 简洁的近似描述如pagerank、聚类2) 特征抽取如频繁项集(同时频繁出现的元素子集)、相似项(共同元素比例较高的集合对)在机器学习或数据挖掘之前,还需要概率,或信息论的一些相关知识,现实世界的对象需要转换为计算机的转载 2014-11-23 20:26:23 · 4105 阅读 · 0 评论 -
机器学习中贝叶斯判决、概率分布、样本等概念间的关系
1. 机器学习的一些概念:什么是机器学习?机器学习包含哪些基本要素?机器学习,就是由已知数据,训练出一个模型,形成一个假设的空间,在拿到新的数据后,能在假设空间搜索出一个合理的结果。如何建立模型,才是机器学习算法的核心,包括假设,推理,验证。如何保证目标概念在假设空间内?是否有包含所有假设的空间?如何保证收敛?假设空间的大小与训练样例数量的关系?概率、贝叶斯转载 2014-11-23 20:29:07 · 4608 阅读 · 1 评论 -
最小二乘、极大似然、梯度下降有何区别
最小二乘和极大似然是目标函数,梯度下降是优化算法。机器学习的核心是一个model,一个loss fuction,再加上一个优化的算法。一个目标函数可以用不同的优化算法,不同的目标函数也可以用相同的优化算法。所以最小二乘和极大似然根本不是算法,和梯度下降毫无可比性。PS:最小二乘和极大似然也不是对立的。最小二乘是从函数形式上来看的,极大似然是从概率意义上来看的。事实上,最小二乘可以由转载 2014-11-23 20:10:03 · 5418 阅读 · 0 评论 -
如何理解矩阵特征值?
从线性空间的角度看,在一个定义了内积的线性空间里,对一个N阶对称方阵进行特征分解,就是产生了该空间的N个标准正交基,然后把矩阵投影到这N个基上。N个特征向量就是N个标准正交基,而特征值的模则代表矩阵在每个基上的投影长度。特征值越大,说明矩阵在对应的特征向量上的方差越大,功率越大,信息量越多。特征向量可以看作坐标向量,特征值就是矩阵在该坐标方向上的分量大小值,特征分析相当于提取矩阵的信息翻译 2014-11-23 20:13:44 · 4943 阅读 · 0 评论 -
机器学习基石第四次作业代码
花了一个多月总算把《机器学习基石》这门公开课学习完了,作业也做完了,老师讲的很棒,学到了不少东西:).Q13Q14Q15Q16Q17Q18Q19Q20import sysimport urllib2import numpy as npfrom math import exp#Download data# url = 'https://d396qusza40orc.cloudfront.net原创 2016-01-15 22:41:18 · 1258 阅读 · 0 评论 -
Machine Learning Foundations(NTU) 第一次作业
Machine Learning Foundations(NTU) 第一次作业PLADATA: https://d396qusza40orc.cloudfront.net/ntumlone%2Fhw1%2Fhw1_15_train.dat Each line of the data set contains one (xn,yn) with xn∈R4. T he first 4 numbers原创 2016-01-07 16:15:06 · 826 阅读 · 0 评论 -
机器学习基石第三次课代码
机器学习基石第三次课代码import urllib2import numpy as npfrom math import exp# url = 'https://d396qusza40orc.cloudfront.net/ntumlone%2Fhw3%2Fhw3_test.dat'# f = urllib2.urlopen(url)# with open("hw3_train.dat", "原创 2016-01-13 00:15:33 · 627 阅读 · 0 评论