机器学习
文章平均质量分 90
梦沁清风
这个作者很懒,什么都没留下…
展开
-
对线性回归,logistic回归和一般回归的认识
【转载来源】:http://www.cnblogs.com/jerrylead1 摘要 本报告是在学习斯坦福大学机器学习课程前四节加上配套的讲义后的总结与认识。前四节主要讲述了回归问题,回归属于有监督学习中的一种方法。该方法的核心思想是从连续型统计数据中得到数学模型,然后将该数学模型用于预测或者分类。该方法处理的数据可以是多维的。 讲义最初介绍了一个基转载 2016-10-12 11:16:30 · 308 阅读 · 0 评论 -
TensorFlow 到底有几种模型格式?
用过 TensorFlow 时间较长的同学可能都发现了 TensorFlow 支持多种模型格式,但这些格式都有什么区别?怎样互相转换?今天我们来一一探索。1. CheckPoint(*.ckpt)在训练 TensorFlow 模型时,每迭代若干轮需要保存一次权值到磁盘,称为“checkpoint”,如下图所示:这种格式文件是由 tf.train.Saver() 对象调用 sa...转载 2018-08-07 16:02:06 · 18941 阅读 · 0 评论 -
机器学习常见10大算法图解
通过本篇文章可以对ML的常用算法有个常识性的认识,没有代码,没有复杂的理论推导,就是图解一下,知道这些算法是什么,它们是怎么应用的,例子主要是分类问题。每个算法都看了好几个视频,挑出讲的最清晰明了有趣的,便于科普。以后有时间再对单个算法做深入地解析。今天的算法如下:决策树随机森林算法逻辑回归SVM朴素贝叶斯K最近邻算法K均值算法Adaboost 算法神经网络马尔可夫1. 决策树根据一些 featu...原创 2018-05-05 10:34:12 · 999 阅读 · 0 评论 -
机器学习中训练集、验证集和测试集
通常,在训练有监督的机器学习模型的时候,会将数据划分为训练集、验证集合测试集,划分比例一般为0.6:0.2:0.2。对原始数据进行三个集合的划分,是为了能够选出效果(可以理解为准确率)最好的、泛化能力最佳的模型。训练集(Training set)作用是用来拟合模型,通过设置分类器的参数,训练分类模型。后续结合验证集作用时,会选出同一参数的不同取值,拟合出多个分类器。验证集(Cross Valida...转载 2018-05-05 10:12:21 · 1289 阅读 · 0 评论 -
浅析机器学习中的模型选择与调参(cross validation + grid search)
对于一个预测问题,同时有多种可用的模型,每种模型有多种可用的参数。如何选择一个最合适的模型?总题过程分为2个部分: 1.对于一个模型,如何评估该模型在特定问题上的好坏? 2.选择了最好的模型后,如何选择最优的参数?对于模型的评估,我们一般使用交叉验证(cross validation)来进行评估。 在这里我们使用了k折叠法,将训练集划分为相等的k份。然后...转载 2018-05-04 16:04:33 · 593 阅读 · 0 评论 -
softmax函数
本文讨论机器学习中常见的softmax函数,并推导了softmax函数的梯度,讨论了softmax函数的一些基本性质。softmax函数定义为 hsoftmax(xi)=exp(xi)∑nj=1exp(xj)可以认为是先对x的每个分量xi做了一个非线性变换exp(⋅),再将变换后的结果归一化到区间[0,1]。然而,上式中存在“冗余”,可以参考UFLDL中转载 2017-11-02 19:48:47 · 342 阅读 · 0 评论 -
常见机器学习分类
机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。本文为您总结一下常见的机器学习算法,以供您在工作和学习中参考。机器学习的算法很多。很多时候困惑人们都是,很多算法是一类算法,而有些算法又是从其他算法中延伸出来的。这里,我们从两个方面来给大家介绍,第一个方面是学习的方式,第二个方面是算法的类似性。学习方式根据数据类型的不同,对一原创 2017-10-16 11:07:56 · 27573 阅读 · 2 评论 -
协方差到PCA算法
问题:假设在IR中我们建立的文档-词项矩阵中,有两个词项为“learn”和“study”,在传统的向量空间模型中,认为两者独立。然而从语义的角度来讲,两者是相似的,而且两者出现频率也类似,是不是可以合成为一个特征呢? 《模型选择和规则化》谈到的特征选择的问题,就是要剔除的特征主要是和类标签无关的特征。比如“学生的名字”就和他的“成绩”无关,使用的是互信息的方法。转载 2017-10-27 16:35:01 · 280 阅读 · 0 评论 -
机器学习算法
机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。这里IT经理网为您总结一下常见的机器学习算法,以供您在工作和学习中参考。机器学习的算法很多。很多时候困惑人们都是,很多算法是一类算法,而有些算法又是从其他算法中延伸出来的。这里,我们从两个方面来给大家介绍,第一个方面是学习的方式,第二个方面是算法的类似性。学习方式根据数据类型的转载 2017-10-09 22:09:10 · 323 阅读 · 0 评论 -
常见的激活函数
一.激活函数概览基本上,入门深度学习的第一件事情就是了解”神经元”的构造,激活函数算是最基本的一个”部件”了吧.那激活函数到底有什么用呢?为什么需要激活函数?激活函数的定义是什么呢? 下面这篇论文提供了激活函数的定义以及常见的”饱和”的定义,以及对于激活函数的一些思考.大家可以参考一下.Noisy Activation Functions 引用这篇论文的定义:激活函数就是映转载 2017-09-21 16:00:29 · 690 阅读 · 0 评论 -
机器学习的基本问题
参考:http://kubicode.me/2015/08/16/Machine%20Learning/Common-Interview/?from=singlemessage#http://blog.csdn.NET/heyongluoyao8/article/details/49429629http://lib.csdn.Net/article/machinelearn转载 2017-09-09 09:06:32 · 4741 阅读 · 0 评论 -
协方差矩阵的实例与意义
转载:http://www.zipperary.com/2014/01/12/covariance/在机器学习中经常需要计算协方差矩阵,本科时没学过这个概念,一直对此非常头疼。现在试图通过实例的计算、图形化的表示来梳理一下什么是协方差矩阵。A numerical example问题:有一组数据(如下),分别为二维向量,这四个数据对应的协方差矩阵是多少?转载 2016-11-02 09:55:56 · 732 阅读 · 0 评论 -
贝叶斯简单理解
生活中很多场合需要用到分类,比如新闻分类、病人分类等等。本文介绍朴素贝叶斯分类器(Naive Bayes classifier),它是一种简单有效的常用分类算法。一、病人分类的例子让我从一个例子开始讲起,你会看到贝叶斯分类器很好懂,一点都不难。某个医院早上收了六个门诊病人,如下表。 症状 职业 疾病 打喷嚏 护士 感冒原创 2016-10-27 16:39:43 · 2184 阅读 · 0 评论 -
深度学习简介
转自:http://www.leiphone.com/news/201608/7lwVZCXnScbQb6cJ.html深度学习,即Deep Learning,是一种学习算法(Learning algorithm),亦是人工智能领域的一个重要分支。从快速发展到实际应用,短短几年时间里,深度学习颠覆了语音识别、图像分类、文本理解等众多领域的算法设计思路,渐渐形成了一种从训练数据出发,经过一个转载 2016-10-27 09:02:05 · 3793 阅读 · 0 评论 -
基础机器学习算法
基础机器学习算法哲学要回答的基本问题是从哪里来、我是谁、到哪里去,寻找答案的过程或许可以借鉴机器学习的套路:组织数据->挖掘知识->预测未来。组织数据即为设计特征,生成满足特定格式要求的样本,挖掘知识即建模,而预测未来就是对模型的应用。特征设计依赖于对业务场景的理解,可分为连续特征、离散特征和组合高阶特征。本篇重点是机器学习算法的介绍,可以分为监转载 2016-10-17 09:21:52 · 251 阅读 · 0 评论 -
Logistic回归与梯度上升算法
原始出处:http://sbp810050504.blog.51cto.com/2799422/1608064在《机器学习实战》一书的第5章中讲到了Logistic用于二分类问题。书中只是给出梯度上升算法代码,但是并没有给出数学推导。故哪怕是简单的几行代码,依然难以理解。 对于Logistic回归模型而言,需要读者具有高等数学、线性代数、概率论和数理统计的基础的数学基础。高转载 2016-10-12 15:31:53 · 711 阅读 · 0 评论 -
1X1卷积核的作用
1*1的卷积核在NIN、Googlenet中被广泛使用,但其到底有什么作用也是一直困扰的问题,这里总结和归纳下在网上查到的自认为很合理的一些答案,包括1)跨通道的特征整合2)特征通道的升维和降维 3)减少卷积核参数(简化模型)部分转载自caffe.cn作用:1. 实现跨通道的交互和信息整合2. 进行卷积核通道数的降维和升维3.对于单通道feature map 用单核卷积即为乘以一个...转载 2018-08-07 17:37:07 · 271 阅读 · 0 评论