机器学习
文章平均质量分 95
DIAJEY
这个作者很懒,什么都没留下…
展开
-
迁移学习(Transfer Learning)-- 概念理解
迁移学习(Transfer Learning)迁移学习概述背景随着越来越多的机器学习应用场景的出现,而现有表现比较好的监督学习需要大量的标注数据,标注数据是一项枯燥无味且花费巨大的任务,所以迁移学习受到越来越多的关注。传统机器学习(主要指监督学习)基于同分布假设需要大量标注数据然而实际使用过程中不同数据集可能存在一些问题,比如数据分布差异标注数据过期训练数据过期,也就是好不容易标定的数据要被丢弃,有些应用中数据是分布随着时间推移会有变化如何充分利用之前标注好的数据(废物利用),原创 2021-01-27 16:56:27 · 3224 阅读 · 1 评论 -
机器学习 -- SVM
1.什么是SVM?SVM–支持向量机,是一个类分类器,正确的定义是一个能够将不同类样本在样本空间分隔的超平面。换句话说,给定一些标记(label)好的训练样本(监督式学习),SVM算法输出一个最优化的分隔超平面首先,如何界定一个超平面是否为最优?如上图所示,要将这两类二维的点用直线分隔,就要找到一条最优化的分隔线。如何定义那一条直线最好呢?可以用一个值去定义,而这个之就是超平面离所有训练样本的最小距离。也就是间隔,而最优分割超平面就是最大化训练数据的间隔因为如果间隔太小,就表示噪点对结果的影响越原创 2020-08-30 10:31:48 · 397 阅读 · 0 评论 -
《机器学习》学习笔记(七)-- 深度学习的技巧和优化方法
1.Recipe of Deep Learningthree step of deep learning我们已经知道了deep learning的三个步骤:· define the function set(network structure)· goodness of function(loss function - cross entropy)· pick the best function(gradient descent - optimization)做完这些事情后,会得到一个更好的ne原创 2020-08-16 13:58:10 · 954 阅读 · 0 评论 -
《机器学习》学习笔记(六)-- CNN(卷积神经网络)
1.Why CNN?当我们直接用一般的fully connected的feedforward network来做图像处理时,往往会需要太多的参数。举个例子,假设是有一张100100的图片,如果将它拉成一个vector,再乘以3色域,input vector就已经有三万维了,又假设hidden layer有1000个neuron,那仅仅是第一层的hidden layer的参数就已经有300001000个了因此,CNN做的事其实是,简化这个neural network的架构,根据自己的判断和对图像处理的理原创 2020-08-15 01:04:46 · 1889 阅读 · 0 评论 -
《机器学习》学习笔记(五)-- 深度学习概述,反向传播
1.Neural Network(神经网络)concept把多个logistic regression前后连接在一起,然后把一个logistic regression称之为neuron,整个则称之为neural network我么可以用不同的方法连接这些neuron,就可以得到不同的结构,神经网络里的每一个逻辑回归都有自己的权重和偏值,这些weigh和bias集合起来,就是这个network的parameter。Fully Connect Feedforward Network最常见的方法是Fu原创 2020-08-06 22:31:51 · 601 阅读 · 0 评论 -
《机器学习》学习笔记(四)-- 逻辑回归
Three Steps of Machine LearningLogistic Regression VS Linear RegressionDiscriminative vs GenerativeConclusionMulti-class ClassificationReview在classification中,我们讨论了通过共用Σ可以得到一个线性的z从上式可以看到,model是受w和b控制的,因此我们可以想办法通过一个全新的方法去找到w和b,并通过它们去决定一个model–Logis.原创 2020-07-30 22:19:04 · 930 阅读 · 0 评论 -
《机器学习》学习笔记(三)-- classification
概念描述如何去分类?1.概念描述分类问题是找一个function,input一个object,输出的则是判断该object属于哪一个class就以宝可梦为例,宝可梦有18种属性,现需要解决的分类问题就是做一个宝可梦种类的分类器输入数值化对于宝可梦分类问题,首先就要将一只宠物当作function的input–也就是数值化比如可以用一组数字来描述它的特性,比如:有多强(total strong)生命值(hp)攻击力(Attack)防御力(defense)特殊攻击力(Specia.原创 2020-07-29 09:12:25 · 967 阅读 · 0 评论 -
《机器学习》学习笔记(二)-- Gradient Descent
Gradient Descent图解Learning rateAdagradStochastic Gradicent DescentFeature scaling泰勒展开推到Gradient Descent1.Gradinet Descent图解将gradient descent在投影到二维坐标系中可视化:– 红色箭头表示(θ1,θ2)这点的梯度,梯度方向即箭头方向(从低处到高出,梯度大小即箭头长度)。– 蓝色箭头代表的则是实际情况下θ1和θ2的更新过程图,每次更新沿着蓝色箭.原创 2020-07-23 21:59:41 · 311 阅读 · 0 评论 -
《机器学习》学习笔记(一)-- Regression
RegressionGradient DescentReduce ErrorRegularizationconclusion1.案例引入在李宏毅老师的课程中,以宝可梦为例子设定具体参数Regress的具体过程1.定义一个函数集合2.定义Loss函数取评估function的好坏,Loss越小,函数越好3.找到一个最好的函数模型Step1.定义函数模型在课中主要使用了线性模型即:y = b + w·Xcp(y代表进化后的cp值,Xcp代表进化前的值,b,w为参数,这里w主要为.原创 2020-07-23 18:29:56 · 418 阅读 · 0 评论