机器学习
文章平均质量分 78
hang__19
这个作者很懒,什么都没留下…
展开
-
机器学习会议总结1
2017.06.10506实验室会议总结:今天是机器学习第一次正式的开会,即兴奋又慌张,怕自己所学的东西达不到要求。实验室每个人的学习情况及工作情况如下:首先介绍的当然是我们唯有的学长元智,学长元智主要是讲了怎样学习,精确的是怎样学习计算机学习,大体的是这样,当看一本书的时候,不要一遍一遍的看,这样是很让费时间的,学习效率很低,避免的方法就是看完一本书,马上“丢掉”,做练习关于这本原创 2017-06-20 17:03:01 · 573 阅读 · 0 评论 -
手写数字识别
人脑识别图像: 人脑: 大脑视觉皮层V1, 包含140,000,000神经元; 数百亿个连接, 还有V2,V3,V4,V5 人脑进化几千年计算机识别图像:神经元:输入00, (−2)∗0+(−2)∗0+3=3, 输出1输入11,原创 2017-09-04 18:29:41 · 7662 阅读 · 0 评论 -
Tensorflow报错:AttributeError: 'module' object has no attribute 'scalar_summary'
报错:tf.scalar_summary(l.op.name + ' (raw)', l)AttributeError: 'module' object has no attribute 'scalar_summary'解决:tf.scalar_summary('images', images)改为:tf.summary.scalar('images', images)tf转载 2017-09-22 12:42:50 · 2369 阅读 · 0 评论 -
cross-entropy函数
我们理想情况是让神经网络学习更快假设简单模型: 只有一个输入,一个神经元,一个输出简单模型: 输入为1时, 输出为0初始 w = 0.6, b = 0.9 初始预测的输出 a = 0.82, 需要学习学习率: 0.15演示: 初始: w = 2.0, b = 2.0, 初始预测输出: 0原创 2017-09-11 20:35:35 · 451 阅读 · 0 评论 -
非线性回归
1. 概率: 1.1 定义 概率(P)robability: 对一件事情发生的可能性的衡量 1.2 范围 0 1.3 计算方法: 1.3.1 根据个人置信 1.3.2 根据历史数据 1.3.3 根据模拟数据 1.4 条件概率:原创 2017-07-29 22:18:41 · 4989 阅读 · 0 评论 -
K-means算法
1. 归类: 聚类(clustering) 属于非监督学习 (unsupervised learning) 无类别标记(class label)2. 举例:3. K-means 算法: 3.1 Clustering 中的经典算法,数据挖掘十大经典算法之一 3.2 算法接受参数 k ;然后将事先原创 2017-09-03 11:21:55 · 238 阅读 · 0 评论 -
层次聚类
假设有N个待聚类的样本,对于层次聚类来说,步骤: 1、(初始化)把每个样本归为一类,计算每两个类之间的距离,也就是样本与样本之间的相似度; 2、寻找各个类之间最近的两个类,把他们归为一类(这样类的总数就少了一个); 3、重新计算新生成的这个类与各个旧类之间的相似度; 4、重复2和3直到所有样本点都归为一类,结束原创 2017-09-03 16:18:07 · 479 阅读 · 0 评论 -
特征选择
特征选择是特征工程中的重要问题(另一个重要的问题是特征提取),坊间常说:数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。由此可见,特征工程尤其是特征选择在机器学习中占有相当重要的地位。通常而言,特征选择是指选择获得相应模型和算法最好性能的特征集,工程上常用的方法有以下:1. 计算每一个特征与响应变量的相关性:工程上常用的手段有计算皮尔逊系数和互信息系数,皮尔逊系数只能衡量转载 2017-11-04 21:23:47 · 1397 阅读 · 0 评论 -
交叉验证
sklearn中的交叉验证(Cross-Validation)sklearn是利用python进行机器学习中一个非常全面和好用的第三方库,用过的都说好。今天主要记录一下sklearn中关于交叉验证的各种用法,主要是对sklearn官方文档 Cross-validation: evaluating estimator performance进行讲解,英文水平好的建议读官方文档,里转载 2017-11-05 22:03:32 · 691 阅读 · 0 评论 -
语音识别学习日志 2019-7-14 语音识别基础知识准备2 {EM算法与混合高斯模型(Gaussian mixture model, GMM)}
https://blog.csdn.net/lin_limin/article/details/81048411会对GMM和EM做详细介绍本文参考:http://www.ituring.com.cn/article/497545(GMM模型)https://blog.csdn.net/xmu_jupiter/article/details/50889023(GMM模型)http:...转载 2019-07-14 15:18:18 · 415 阅读 · 0 评论 -
语音识别学习日志 2019-7-16 语音识别基础知识准备5 {决策树算法(ID3、 C4.5、 CART)}
决策树算法(ID3、 C4.5、 CART)决策树的定义决策树学习采用的是自顶向下的递归方法,其基本思想是以信息熵为度量构造一颗熵值下降最快的树,到叶子节点处,熵值为0。其具有可读性、分类速度快的优点,是一种有监督学习。决策树呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程。学习时,利用训练数据,根据损失函数最小化的原则建立决策树模型;预测时,对新的数据,利用决策模型进行分类。...转载 2019-07-16 16:41:01 · 521 阅读 · 0 评论 -
多元线性回归模型
1. 与简单线性回归区别(simple linear regression) 多个自变量(x)2. 多元回归模型 y=β0+β1x1+β2x2+ ... +βpxp+ε 其中:β0,β1,β2... βp是参数 ε是误差值3. 多元回归方程 E(y)=β0+β1x1+β2x2+ ..原创 2017-07-28 10:04:09 · 1769 阅读 · 0 评论 -
线性回归模型
1. 简单线性回归模型举例:汽车卖家做电视广告数量与卖出的汽车数量:1.1 如何练出适合简单线性回归模型的最佳回归线/使sum of squares最小1.1.2 计算分子 = (1-2)(14-20)+(3-2)(24-20)+(2-2)(18-20)+(1-2)(17-20)+(3-2)(27-20) =原创 2017-07-28 09:42:24 · 589 阅读 · 0 评论 -
机器学习——决策树的实现
#!/usr/bin/env python#-*-coding:utf-8-*-#决策树的建立,训练测试,from sklearn.feature_extraction import DictVectorizerimport csvfrom sklearn import preprocessingfrom sklearn import treefrom sklearn.externa原创 2017-07-25 14:18:14 · 591 阅读 · 0 评论 -
学长启蒙
2017.06.20506实验室家才学长课堂总结:第一次正式听家才学长的课堂,课堂主要目的学长凭自己的经验和丰富的知识带领我们入门机器学习,认识机器学习,学习机器学习。 课堂第一项,首先为方便与学长交流,认识,我们四个学机器学习的先做了自我介绍吧算是,虽然简短,但是算是互相认识了,家才学长不仅能力强,人长的帅,更是平易近人,容易相处。第二项学长开始了他的表演时刻,主要是讲了学习机器学习原创 2017-06-20 17:04:44 · 377 阅读 · 0 评论 -
机器学习——决策树算法
机器学习——决策树算法原理及案例标签: 机器学习决策树信息增益基尼指数模型评估2016-05-04 15:31 43984人阅读 评论(1) 收藏 举报 分类:机器学习(10) 版权声明:本文为博主原创文章,未经博主允许不得转载。目录(?)[+] 机器学习在各个领域都有广泛的应用,特别在数据分析领域有着深远的影响。决策树是机器学习中最基础且应用最广泛的算法模型。本文原创 2017-07-25 14:10:12 · 1873 阅读 · 0 评论 -
邻近算法(KNN算法)
邻近算法 锁定本词条由“科普中国”百科科学词条编写与应用工作项目 审核 。邻近算法,或者说K最近邻(kNN,k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻,就是k个最近的邻居的意思,说的是每个样本都可以用它最接近的k个邻居来代表。kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类原创 2017-07-25 14:38:27 · 6245 阅读 · 0 评论 -
Q-学习,马克尔决策过程:强化学习
马尔可夫决策过程马尔可夫决策过程是基于马尔可夫过程理论的随机动态系统的最优决策过程。马尔可夫决策过程是序贯决策的主要研究领域。它是马尔可夫过程与确定性的动态规划相结合的产物,故又称马尔可夫型随机动态规划,属于运筹学中数学规划的一个分支。马尔可夫决策过程是指决策者周期地或连续地观察具有马尔可夫性的随机动态系统,序贯地作出决策。即根据每个时刻观察到的状态,从可用的行动集合中选用一个行动作出决策原创 2017-07-25 07:42:25 · 1120 阅读 · 0 评论 -
支持向量机(SVM)算法
支持向量机(SVM)算法支持向量机(support vector machine)是一种分类算法,通过寻求结构化风险最小来提高学习机泛化能力,实现经验风险和置信范围的最小化,从而达到在统计样本量较少的情况下,亦能获得良好统计规律的目的。通俗来讲,它是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器,即支持向量机的学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解转载 2017-07-25 15:12:21 · 345 阅读 · 0 评论 -
支持向量机(SVM)的实现
#!/usr/bin/env python#-*-coding:utf-8-*-#支持向量积的使用,建立超平面from sklearn import svmx=[[2,0],[1,1],[2,3]]y=[0,0,1]clf=svm.SVC(kernel='linear')#kernel='linear'线性核函数clf.fit(x,y)print(clf)prin原创 2017-07-25 15:22:01 · 573 阅读 · 0 评论 -
神经网络NN算法
1. 背景: 1.1 以人脑中的神经网络为启发,历史上出现过很多不同版本 1.2 最著名的算法是1980年的 backpropagation 2. 多层向前神经网络(Multilayer Feed-Forward Neural Network) 2.1 Backpropagation被使用在多层向前神经网络上 2.2 多层向前神经网络由以原创 2017-07-27 14:25:22 · 2264 阅读 · 0 评论 -
神经网络算法实现
1. 关于非线性转化方程(non-linear transformation function)sigmoid函数(S 曲线)用来作为activation function: 1.1 双曲函数(tanh)tanh是双曲函数中的一个,tanh()为双曲正切。在数学中,双曲正切“tanh”是由基本双曲函数双曲正弦和双曲余弦推导而来公式定义双曲正切函数原创 2017-07-27 15:34:23 · 10080 阅读 · 0 评论 -
神经网络算法的实例
1.简单非线性关系数据集测试(XOR)X: Y0 0 00 1 11 0 11 1 0Code: #!/usr/bin/env python#-*-coding:utf-8-*原创 2017-07-27 15:57:25 · 5582 阅读 · 0 评论 -
KNN算法的实现
#!/usr/bin/env python#-*-coding:utf-8-*-#knn实现手写数字识别#1建立工程并导入sklearn包‘import numpy as npfrom os import listdir #使用listdir模块,用于访问本地文件from sklearn import neighbors#2加载训练数据#将加载的32*32的图片矩阵展开成一列向量原创 2017-07-25 14:43:14 · 610 阅读 · 0 评论 -
语音识别学习日志 2019-7-17 语音识别基础知识准备6 {维特比算法(Viterbi Algorithm)}
HMM 维特比算法(Viterbi Algorithm)详细解释参考:http://www.52nlp.cn/hmm-learn-best-practices-six-viterbi-algorithm-1http://www.52nlp.cn/hmm-learn-best-practices-six-viterbi-algorithm-2http://www.52nlp.cn/hmm-l...转载 2019-07-17 20:58:56 · 419 阅读 · 0 评论