![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
machine learning
LilyNothing
不会写文章的程序员不是好的摄影师
展开
-
Andrew NG 《machine learning》week 4,class1 —Motivations
Andrew NG 《machine learning》week 4,class1 —Motivations本节课将讲述关于神经网络的机器学习算法。先讨论神经网络的表层结构,之后再详细讲述算法。1.1 Non-linear Hypotheses为了阐述为什么要学习神经网络算法,下面主要是几个例子。 如上图所示,逻辑回归函数对于分类的情况,比较适合于只有少量的特征量的情况,比如说,只有两个特征量原创 2016-06-26 08:24:54 · 887 阅读 · 0 评论 -
Andrew Ng coursera上的《机器学习》ex2
Andrew Ng coursera上的《机器学习》ex2按照课程所给的ex2的文档要求,ex2要求完成以下几个计算过程的代码编写: exerciseName description plotData.m function to plot 2D classification data sigmoid.m 是逻辑回归的定义函数 costFunction.m logisti原创 2016-08-22 11:16:37 · 2223 阅读 · 0 评论 -
Andrew Ng coursera上的《机器学习》ex3
Andrew Ng coursera上的《机器学习》ex3按照课程所给的ex3的文档要求,ex3要求完成以下几个计算过程的代码编写: exerciseName description IrcostFunction.m logistics regression cost function oneVSall.m train one-vs-all muti-class classif原创 2016-08-22 16:30:55 · 5670 阅读 · 1 评论 -
Andrew Ng coursera上的《机器学习》ex4
Andrew Ng coursera上的《机器学习》ex4按照课程所给的ex4的文档要求,ex4要求完成以下几个计算过程的代码编写: exerciseName description sigmoidGradient.m compute the grident of the sigmoid function randInitializedWeights.m randomly in原创 2016-08-23 11:18:09 · 5337 阅读 · 1 评论 -
Andrew Ng coursera上的《机器学习》ex5
Andrew Ng coursera上的《机器学习》ex5按照课程所给的ex5的文档要求,ex5要求完成以下几个计算过程的代码编写: 1.LinearRegCostFunction.m该.m文件包含了求正则化线性回归模型代价函数,梯度下降算法两个算法。 function [J, grad] = linearRegCostFunction(X, y, theta, lambda)%LINEARRE原创 2016-08-23 15:56:31 · 2586 阅读 · 0 评论 -
Andrew Ng coursera上的《机器学习》ex6
Andrew Ng coursera上的《机器学习》ex6按照课程所给的ex6的文档要求,ex6要求完成以下几个计算过程的代码编写: 一、gaussianKernel.m要求是求两个变量之间的相似性。function sim = gaussianKernel(x1, x2, sigma)%RBFKERNEL returns a radial basis function kernel betw原创 2016-08-26 14:17:34 · 4015 阅读 · 0 评论 -
Andrew Ng coursera上的《机器学习》ex7
Andrew Ng coursera上的《机器学习》ex7按照课程所给的ex7的文档要求,ex7要求完成以下几个计算过程的代码编写: 一、findClosestCentroids.m要求是为每个数据点找到距离它最近的中心点。function idx = findClosestCentroids(X, centroids)%FINDCLOSESTCENTROIDS computes the ce原创 2016-08-26 15:25:19 · 2828 阅读 · 0 评论 -
Andrew Ng coursera上的《机器学习》ex8
Andrew Ng coursera上的《机器学习》ex8按照课程所给的ex8的文档要求,ex8要求完成以下几个计算过程的代码编写: 一、estimateGuasssian.m要求求出符合高斯函数的均值和方差。function [mu sigma2] = estimateGaussian(X)%ESTIMATEGAUSSIAN This function estimates the parame原创 2016-08-26 16:18:25 · 2856 阅读 · 0 评论 -
基于内容的推荐系统(content-based recommender system)
基于内容的推荐系统(content-based recommender system)1. movie rating predict比如要预测一位观影者对于还未观看过的电影的评分,并根据他的观影记录给予推荐相应的电影。 如上图所示,需要算表格中问号的评分,那么就需要一个算法来进行实现。给出x0=1,使得特征变量成为三元向量。其中的thera是通过某种算法得到,在后面的习题中是根据代入数字进行计原创 2016-08-15 11:22:59 · 5102 阅读 · 0 评论 -
深度增强学习前沿算法思想
本文转自:https://www.kuaiyudian.com/news/1486.html摘要: 深度增强学习经过近两年的发展,在算法层面上取得了越来越好的效果。从DQN,A3C到UNREAL,精妙的算法设计无不闪耀着人类智慧的光芒。在未来,除了算法本身的改进,深度增强学习作为能够解决从感知到决策控制的通用型学习算法,将能够在现实生活中的各种领域得到广泛的应用。AlphaGo的成功只是通转载 2017-02-21 09:48:46 · 539 阅读 · 0 评论 -
机器学习中的covariate shift现象的解释
转自:http://blog.csdn.net/mao_xiao_feng/article/details/54317852[-]一什么是covariate shift二怎么解决covariate shift一、什么是covariate shift?在论文中经常碰到covariate shift这个词,网上相关的中文解释比较少。你可能会在介绍转载 2017-02-21 15:33:47 · 1432 阅读 · 0 评论 -
深度学习 vs 机器学习 vs 模式识别
转自:http://www.computervisionblog.com/2015/03/deep-learning-vs-machine-learning-vs.html译文见:http://www.csdn.net/article/2015-03-24/2824301Deep Learning vs Machine Learning vs Pattern Recognition转载 2017-02-21 15:40:35 · 1522 阅读 · 0 评论 -
关于domain adaptation
转自:http://blog.csdn.net/a1154761720/article/details/51020105这篇文章是结合对抗网络框架与深度学习技术解决domain adaptation应用的一个工作。具体而言,在这个框架中对三个部分进行训练:一个是feature extractor,这个是用于提取特征的,一般由卷积层与pooling层组成;另一个是label classifi转载 2017-02-22 10:31:28 · 1446 阅读 · 0 评论 -
tensorflow/magenta在ubuntu14.04上的安装
基于要拿神经网络要做艺术性的工作,所以想借鉴一些google的magenta项目,具体的安装其实最简单的方式就是使用conda(anaconda这个软件)。按照官网给出的安装方法其实也就可以安装完成了,但是由于目前版本的问题,所以需要记录一下。截止目前(2017.11.7),官网的magenta的版本是v0.3.2,而且需要注意的是这个版本里面要求的tensorflow或者tensorflow-gp原创 2017-11-07 21:06:53 · 2928 阅读 · 1 评论 -
Tensorflow中的CNN layer参数(即用tensorflow框架实现简单CNN)
这篇文章主要以LeNet在tensorflow中的实践作为基础进行讲解。主要是一些基本代码的分析。至于LeNet这个网络的详解,可以参考: LeNet详解一、tensorflow中提供的函数对于CNN网络来说,tensorflow基本的两个提供的函数分别是: tf.nn.conv2d()和 tf.nn.bias_add() ,那么用这两个基本的函数来构造LeNet,那么先来看看整体的架构是怎样的原创 2017-10-23 21:16:31 · 6049 阅读 · 0 评论 -
Andrew Ng coursera上的《机器学习》ex1
本系列文章是在coursera上学习Andrew Ng的《机器学习》之后,对练习题进行了一些总结。我是初学者,所以肯定存在很多错误,欢迎大家能够给我提意见。Andrew Ng coursera上的《机器学习》ex1按照课程所给的ex1的文档要求,ex1要求完成以下几个计算过程的代码编写: exerciseName description warmUpExercise.m Simple原创 2016-08-19 11:36:16 · 3045 阅读 · 0 评论 -
Photo OCR
Photo OCR本篇博客将会对andrew ng机器学习的最后一章进行描述。最后一章是将会是图像识别的应用。photo ocr 是指照片光学字符识别。1. problem description and pipeline2. sliding windows(滑动窗)滑动窗是一种分类器。 用滑动窗的方法来建立一个行人分类器,先找到一些有行人的图片和一些没行人的图片训练模型,之后再输入测试集进行测试原创 2016-08-17 11:49:52 · 2478 阅读 · 0 评论 -
大数据下的机器学习
大数据下的机器学习目前的数据可谓是呈指数级增长,在这样的大数据氛围下,机器学习反而会表现得更好,毕竟有一句话是这么说的”It’s not who has the best algorithm that wins. It’s who has the most data.”。但是一些机器学习的算法在数据量较大的情况下,由于计算所耗时间也会不断增加,所以可以将算法针对大数据的情景进行一定的修改,减少计算量原创 2016-08-16 11:02:46 · 1495 阅读 · 0 评论 -
Andrew NG 《machine learning》week 4,class2 —Neural Network
Andrew NG 《machine learning》week 4,class2 —Neural Network本节将讲述神经网络算法的算法模型。2.1 Model Representation I如下图所示,这是一个逻辑单元的神经网络的模型。 如上图所示,图中的X0是一个偏置值,一般情况下为1,此时可以不写出,当不为1 的时候写出。同时,这是一个逻辑回归的神经网络模型,所以其中的h(x)原创 2016-06-27 09:23:08 · 940 阅读 · 0 评论 -
Andrew NG 《machine learning》week 4,class3 —Applications
Andrew NG 《machine learning》week 4,class3 —Applications本节课将通过一个例子解释神经网络是怎样计算一个复杂输入的非线性的函数。3.1 Examples and Intuitions I 上图展示了一个与的逻辑运算的例子,这是一个简单的数学例子。 接下来将展示多层神经网路的例子。3.2 Examples and Intuitions II如上图原创 2016-06-27 10:23:59 · 593 阅读 · 0 评论 -
Andrew NG 《machine learning》week 6,class1 —Evaluating a Learning Algorithm
Andrew NG 《machine learning》week 6,class1 —Evaluating a Learning Algorithm1.1 Deciding What to Try Next当需要开发一个机器学习的系统的时候,选择什么机器学习算法是一个让人头疼的问题。因为不同的算法性能不同,所适用的环境也不同。那么对于一个算法的改进也有很多种方法。如下图所示: 对于算法改进方法方法原创 2016-07-10 14:38:11 · 784 阅读 · 0 评论 -
Andrew NG 《machine learning》week 6,class2—Bias vs. Variance
Andrew NG 《machine learning》week 6,class2—Bias vs. Variance当你运行一个机器学习算法的时候,大多数运行不理想的情况要么是偏差比较大,要么是方差比较大。即出现的情况要么是过拟合,要么是欠拟合,那么这两者和方差以及偏差是一一对应呢还是两者都有关系呢?能判断这个算法是偏差还是方差的问题,那么就可以有针对性的解决问题了。2.1 Diagnosing原创 2016-07-10 16:35:19 · 704 阅读 · 0 评论 -
Andrew NG 《machine learning》week 5,class1 —Cost functions and Backpropagation
Andrew NG 《machine learning》week 5,class1 —Cost functions and Backpropagation1.1 cost function如下图所示,本小节主要讲述了神经网络的代价函数的表达式。 与其它算法不同的是:神经网络的输出是一个实数。 接下来就要讲解神经网络的参数求解算法。1.2 Backpropagation Algorithm同其原创 2016-07-03 16:26:26 · 900 阅读 · 0 评论 -
Andrew NG 《machine learning》week 5,class2 —Backpropagation in practice
Andrew NG 《machine learning》week 5,class2 —Backpropagation in practice2.1 Implementation Note: Unrolling Parameters本小节主要是将参数矩阵转为向量形式的。 如下图所示,将原来的三个参数矩阵转为一个向量。 上图所示就是讲三个分别为10x11,10x11,1x11的矩阵转为有231个原创 2016-07-03 22:21:00 · 641 阅读 · 0 评论 -
Andrew NG 《machine learning》week 3,class2
Andrew NG 《machine learning》week 3,class22.1 Cost Function本节简介如何拟合逻辑回归函数中的thera参数。2.1.1 代价函数的适用性对于Cost Function(用来拟合参数threa的函数), 线性回归的Cost Function函数定义如下: 但是这并不是适合于逻辑回归的函数。因为逻辑回归函数的h(x)与线性回归的并不相同。它是一个原创 2016-06-18 08:56:24 · 752 阅读 · 0 评论 -
Andrew NG 《machine learning》week 3,class3
Andrew NG 《machine learning》week 3,class33.1 Multiclass Classification:One-vs-all例子如下: 对于多元分类的问题,可以分成几个二元分类问题。 如下图: 有多少类,就有多少个二元分类函数。原创 2016-06-18 09:21:07 · 651 阅读 · 0 评论 -
Andrew NG 《machine learning》week 3,class5 —Solving the Problem of Overfitting
Andrew NG 《machine learning》week 3,class5 —Solving the Problem of Overfitting5.1 The problem of overfitting本节主要讨论什么是过度拟合?以及how to solve it and make the algorithm work well。5.1.1 过拟合与欠拟合的概念下图展示了什么 是线性回归原创 2016-06-18 22:47:31 · 794 阅读 · 0 评论 -
Andrew NG 《machine learning》week 2,class5 —Model and Cost Function
Model and cost function原创 2016-06-20 16:24:33 · 130 阅读 · 0 评论 -
Andrew NG 《machine learning》week 7,class1 —Large Margin Classification
Andrew NG 《machine learning》week 7,class1 —Large Margin Classification本课主要是通过逻辑回归函数来进行支持向量机(SVM)的学习。与之前学习的监督学习算法一样,先是讨论算法的假设函数,之后再是代价函数,之后在进行评估。1.1 Optimization Objective下图先是展示了逻辑回归函数的代价函数,然后利用逻辑回归的代价函原创 2016-07-17 14:28:21 · 851 阅读 · 0 评论 -
Andrew NG 《machine learning》week 7,class1 —Large Margin Classification
Andrew NG 《machine learning》week 7,class1 —Large Margin Classification本课主要是通过逻辑回归函数来进行支持向量机(SVM)的学习。与之前学习的监督学习算法一样,先是讨论算法的假设函数,之后再是代价函数,之后在进行评估。1.1 Optimization Objective下图先是展示了逻辑回归函数的代价函数,然后利用逻辑回归的代价函原创 2016-07-17 14:56:19 · 586 阅读 · 0 评论 -
Andrew NG 《machine learning》week 2,class6 —Parameter learning
Andrew NG 《machine learning》week 2,class6 —Parameter learning本节主要讲述参数的拟合算法——即求出参数的算法。6.1 Gradient Descent梯度下降的表达式如下图: 6.2 Gradient Descent Intuition本小节将会讲述梯度下降函数的各项意义。 对于代价函数来说,学习效率的大小对函数是有影响的,当学习效率较原创 2016-06-22 09:23:05 · 123 阅读 · 0 评论 -
Andrew NG 《machine learning》week 2,class2 —Multivariaze Linear Regression
Andrew NG 《machine learning》week 2,class2 —Multivariaze Linear Regression本节课主要是讲述有多个特征变量情况下的线性回归函数。2.1 Mutiple Features多特征变量和单特征变量的差别是参数threa和变量x均是一个n+1维的向量。2.2 Gradient Descent For Multiple Variables在原创 2016-07-07 17:24:56 · 745 阅读 · 0 评论 -
Andrew NG 《machine learning》week 2,class3 —Computing Parameter Analytically
Andrew NG 《machine learning》week 2,class3 —Computing Parameter Analytically3.1 Normal Equation在某些算法中,用正规方程求解thera参数的最优解是较为方便的。对于一维的二次方程,可以用微积分的方法求出导数为0的点就是最值点,但是对于n+1维的参数向量来说,求偏导已经不容易了。对于有多个特征变量(多个x的函数原创 2016-07-07 19:49:17 · 589 阅读 · 0 评论 -
将训练好的模型进行封装然后在不同平台使用(分框架,分平台)
一. tensorflow框架下的模型封装,固化一般都是使用python在服务器上训练好模型之后,将模型的参数和计算图结构进行固化为pb文件,然后使用C++,JAVA,go,调用,当然也可以在mobile上使用。接下来将分别对应不同的语言和不同的平台给出具体解决方法。1.1 tensorflow下的模型定义以及训练(基于python语言)参考博客1 博客2 官方文档...原创 2018-03-23 16:34:19 · 22241 阅读 · 4 评论